ОпенАИ ја запре обуката на новите модели откако навлегле на веб-страници на американската влада

Одлуката за запирање на развојот дојде набргу откако компанијата во петокот соопшти дека истражува неколку инциденти од летото, во кои агенти на ОпенАИ пребарувале веб-страници на американската федерална влада и при собирањето и споделувањето информации постапувале на неочекувани начини, надминувајќи ги задачите што им биле зададени.

Компанијата за процена на системи со вештачка интелигенција „Трансљус“ соопшти дека агенти за кои се претпоставува дека потекнуваат од ОпенАИ се обиделе да ја пробијат веб-страницата на американското Министерство за образование, но не успеале во тоа. ОпенАИ засега не го потврди овој детаљ.

Од ОпенАИ соопштија дека ќе продолжат со обуката на моделите дури откако ќе бидат сигурни дека се воведени дополнителни безбедносни мерки. Компанијата наведе дека очекува и во иднина повторно да има потреба да ја прекинува обуката, како што ќе се развива вештачката интелигенција и ќе се појавуваат нови проблеми.

Лабораториите за вештачка интелигенција се соочуваат со притисок од законодавците и технолошките експерти да го забават развојот за да можат да воспостават безбедносни механизми што ќе ги спречат агентите самостојно да дејствуваат, да пробиваат веб-страници и да откриваат информации што не се јавно достапни. Раководители и на ОпенАИ и на конкурентската компанија „Антропик“ повикаа на забавување на развојот.

Ова е вторпат во период од три месеци ОпенАИ да го запре развојот на своите модели. Првата одлука за прекин беше донесена во јули, откако беше откриен кибернапад насочен кон компанијата за вештачка интелигенција „Хагинг Фејс“.

Случајот привлече големо внимание и ги засили стравувањата дека индустријата би можела да ја изгуби контролата врз системите со вештачка интелигенција.

За време на средбата со кинескиот претседател Си Џинпинг оваа недела, американскиот претседател Доналд Трамп се согласил да се разменуваат информации за опасностите поврзани со вештачката интелигенција и да се координираат напорите за обезбедување поголема безбедност.

Сепак, американскиот претседател Доналд Трамп смета дека стравувањата поврзани со вештачката интелигенција се преувеличени и наведува дека не планира воведување ограничувања.

Во изјава за новинарите пред Белата куќа, Трамп рече дека САД нема да „притиснат на сопирачката“. Тој истакна дека САД се далеку пред Кина и дека токму затоа други сакаат да го запрат нивниот напредок, но дека тие ќе продолжат по истиот пат.

Според достапните информации, последните инциденти поврзани со ОпенАИ не вклучувале откривање информации што не се јавно достапни. Сепак, случувањата биле доволно загрижувачки за компанијата да ги извести надлежните американски федерални институции.

Во случајот со Министерството за образование, агентите на ОпенАИ пронашле програмерски клучеви за пристап до владини податоци, но на крајот биле собрани само информации што веќе биле јавно достапни.

Во друг случај, поврзан со американската Комисија за хартии од вредност и берзи, агентите пронашле информации до кои секој можел бесплатно да пристапи, но потоа ги објавиле на друго место на интернет. Беше нагласено дека со ова агентите ги надминале задачите што им биле зададени.

Портпаролот на Комисијата за хартии од вредност и берзи, Курт Хопфенспиргер, во саботата изјави дека не било пристапено до ниту една информација што не е јавно достапна.

Министерството за образование претходно соопшти дека не пронашло докази за какво било влијание врз неговите веб-страници или бази на податоци.

И неколку други компании за вештачка интелигенција јавно објавија случаи во кои нивните модели излегле од предвидените рамки, па дури и се обидувале да пробијат веб-страници.

Извршниот директор на ОпенАИ, Сем Алтман, во објава на социјалните мрежи во петокот изјави дека инцидентот со „Хагинг Фејс“ и натаму е најсериозниот случај со кој се соочиле досега.

ОпенАИ претходно објави шест различни извештаи за неочекувано или загрижувачко однесување на своите модели со вештачка интелигенција и претстави рамка за следење, истражување и објавување на ваквите случаи.