„Антропик“ спречил злоупотреба на вештачката интелигенција за развој на биолошко оружје

Во најновиот извештај на „Антропик“ за безбедносни закани се наведува и дека нејзиниот модел на вештачка интелигенција „Клод“ бил користен во кампања за сајбер-шпионажа поврзана со Русија, како и од иранска пропагандна организација.

Загрижувачките случаи откриени во последните осум месеци се движат од лажни апликации за запознавање и измами преку хотелски безжични мрежи, до системи за надзор создадени за идентификување политички неистомисленици.

Компанијата во четвртокот го објави најновиот извештај за безбедносни закани, наведувајќи дека има одговорност јавно да информира за злоупотребите на нејзините услуги.

Во извештајот се наведуваат начини на кои групи за кои постои сомнение дека се поддржани од држави, криминалци, продавачи на шпионски софтвер, државни пропагандни организации и политички мотивирани поединци ја злоупотребувале технологијата.

Од компанијата посочуваат дека во периодот од декември 2025 до август 2026 година биле спречени случаи на злонамерна употреба на моделите „Клод Хаику“, „Сонет“ и „Опус“.

Покрај спречувањето на употребата на моделите за активности што би можеле да придонесат за развој на оружје, биле спречени и обиди од научници да ја користат вештачката интелигенција на начини што би можеле да помогнат во развојот на биолошко оружје.

Во извештајот се посочуваат пет случаи во кои корисници ги употребувале моделите на начини што би можеле да придонесат за развој на биолошко оружје.

Од „Антропик“ предупредуваат дека злонамерната употреба на вештачката интелигенција во биологијата претставува еден од најсериозните ризици поврзани со најнапредните модели на вештачка интелигенција.

Во извештајот се наведуваат и шест случаи во кои „Клод“ бил користен за развој на софтвер поврзан со конвенционално оружје, меѓу кое огнено оружје, проектили, вооружени беспилотни летала, бомби и друга муниција, како и системи за нивно насочување и контрола.