Нова криза со моделите на вештачка интелигенција на ОпенАИ: Лажеле за да ги заобиколат ограничувањата

Производителот на Чет-Џи-Пи-Ти во објава на својот блог соопшти дека меѓу претходно непријавените случаи имало и ситуации во кои моделите прикривале или измислувале информации.

„Светот мора да верува дека ќе ја направиме вистинската работа и дека ја разбираме големината на ова прашање, па затоа мора да ни верува“, претходно оваа недела изјави извршниот директор на ОпенАИ, Сем Алтман.

Вештачката интелигенција во последните денови е под засилен надзор поради предупредувањата за сериозните потенцијални ризици што би можела да ги претставува за луѓето.

Во објавата на блогот, ОпенАИ детално наведе примери за тоа како моделите на вештачка интелигенција се однесувале несоодветно со цел да завршат одредена задача или успешно да поминат тест.

Меѓу случаите имало модели што создавале упатства за заобиколување на ограничувањата што им биле поставени, ги прикривале своите грешки и измислувале информации.

Компанијата, исто така, најави нов систем за следење, истражување и објавување на несоодветното однесување на моделите, односно на таканаречените „проблеми со усогласувањето“.

Во рамките на овој систем, програмерите ќе можат да пријавуваат инциденти за понатамошна анализа, а нов сет правила ќе утврдува дали одреден проблем треба да биде јавно објавен.

„Бидејќи веруваме во вредноста на транспарентноста во однос на проблемите со усогласувањето, нашата нова рамка го поддржува објавувањето дури и кога степенот на сериозност на проблемот е неизвесен“, соопшти ОпенАИ.

ОпенАИ во јули се најде во центарот на вниманието кога објави дека некои од неговите најнапредни модели на вештачка интелигенција излегле од контрола и, за време на безбедносен тест, ја хакирале платформата Хагинг Фејс, една од најголемите светски платформи за споделување модели на вештачка интелигенција.

Коосновачот на Хагинг Фејс, Томас Волф, тогаш изјави дека случајот претставува „аларм за предупредување“ за индустријата.

Оттогаш, дебатата за безбедноста на вештачката интелигенција дополнително се засили, а во неа се вклучија истражувачи од областа на вештачката интелигенција, раководители од технолошката индустрија и политичари.

Минатата недела, истражувачот Џејкоб Коксон, кој ја напушти компанијата Антропик поради загриженоста дека технологијата би можела да го уништи човештвото, објави текст за својата оставка во кој предупреди на опасностите од вештачката интелигенција. Текстот подоцна привлече големо внимание во јавноста во услови на сè поголема загриженост за безбедноста.

На тоа, научникот од Антропик, Еван Хубингер, изјави дека смета оти веројатноста вештачката интелигенција „во следните десет години“ да доведе до исчезнување на човештвото е поголема од 10 проценти.

Коосновачот на Антропик, Џек Кларк, подоцна за Би-би-си изјави дека во иднина би можело да стане неопходно воведување задолжителен механизам за „итно запирање“ на системите, кој би бил контролиран од независна трета страна.

Во меѓувреме, извршниот директор на Антропик, Дарио Амодеи, повторно повика на забавување на развојот на вештачката интелигенција и на построг надзор, како што компанијата бараше и претходно, иако дел од јавноста ги доведе во прашање мотивите зад ваквите повици.

Амодеи, исто така, изјави дека сите мерки за ограничување и контрола на вештачката интелигенција треба да се преземаат „без да се жртвува комерцијалната предност“.

Сепак, американскиот претседател Доналд Трамп изјави дека стравувањата поврзани со безбедноста на вештачката интелигенција се „измама“ и ги критикуваше повиците за воведување дополнителни заштитни мерки за технологијата што брзо напредува.

Во серија објави на социјалните мрежи, американскиот претседател ги спореди предупредувањата за вештачката интелигенција со она што тој го нарече „измама со глобалното затоплување“, за која тврдеше дека била организирана од „радикалните левичарски демократи“.

Трамп, исто така, загриженоста за безбедноста на технологијата ја спореди со она што го нарекува „Русија, Русија, Русија - измама“ и себеси се прогласи за „ловец на измами“.

Трамп изјави дека единствената „заштитна мерка“ што ѝ е потребна на вештачката интелигенција е „силен и паметен“ претседател.