Лидерите на најголемите ВИ компании повикуваат на забавување на развојот

Главниот извршен директор на „Антропик“, Дарио Амодеи, повика на забавување на темпото со кое се развиваат најнапредните модели на вештачка интелигенција и најави воведување дополнителни безбедносни мерки, вклучително и независни евалуатори од трети страни.

На неговиот повик брзо одговори извршниот директор на „ОпенАИ“, Сем Алтман, кој најави дека неговата компанија ќе го поддржи предлогот за независни оценувачи со пристап сличен на оној што го имаат вработените во компаниите. Шефот на xAI, Илон Маск, пак, кратко порача: „Дарио е во право“.

Амодеи оценува дека компаниите мора да одвојат повеќе време за тестирање, усогласување и заштита на своите модели, нагласувајќи дека забавувањето не значи запирање на техничкиот напредок.

Како причина за зголемената загриженост тој ја посочува сè поголемата способност на системите за вештачка интелигенција самостојно да извршуваат сложени задачи, особено во областа на сајбер-безбедноста. Дополнителна загриженост предизвика и неодамнешен безбедносен инцидент во кој автономни ВИ агенти соработувале при обид за пробивање веб-страница.

Според Амодеи, идните системи би можеле да станат значително помоќни и потенцијално да предизвикаат огромна штета доколку излезат од контрола. Тој смета дека за справување со ризиците е потребна координација меѓу компаниите, но и меѓународна соработка.

Загриженоста расте и во самите компании. Истражувачи и раководители на ВИ лаборатории во последниот период предупредуваат на можни егзистенцијални ризици од развојот на суперинтелигентни системи.

Сепак, најголемите компании остануваат жестоки конкуренти во трката за развој на сè пософистицирана вештачка интелигенција, а дополнителна неизвесност создава и конкуренцијата од кинеските компании.

Отворено останува и прашањето дали евентуалната координација меѓу американските ВИ компании би била дозволена од антимонополските регулатори, како и како на идејата за забавување би реагирале инвеститорите и пазарите.