Двајца американски сенатори бараат информации од „ОпенАИ“ за модели на вештачка интелигенција што излегле од контрола

Продолжува загриженоста поради безбедносниот инцидент во инфраструктурата на платформата за развој на вештачка интелигенција „Хагинг фејс“, предизвикан од модели на вештачка интелигенција што „ОпенАИ“ ги користел за време на тестирање.

Американскиот републикански сенатор Џош Холи и демократскиот сенатор Крис Ван Холен побараа од „ОпенАИ“ информации за безбедноста на моделите на вештачка интелигенција.

Холи, кој е и претседател на Поткомитетот за домашна безбедност задолжен за управување со катастрофи, вчера почна истрага за компанијата, откако систем на „ОпенАИ“, без директна човечка интервенција, извршил упад во инфраструктурата на друга компанија за вештачка интелигенција.

Во писмо испратено до извршниот директор на „ОпенАИ“, Сем Алтман, сенаторот Холи наведе дека американската јавност заслужува детално да знае што се случило во инцидентот со „Хагинг фејс“, како и во други случаи во кои моделите на вештачка интелигенција излегле од контрола. Тој посочи дека истрагата треба да обезбеди одговори на овие прашања.

Ван Холен, исто така повикувајќи се на случајот со „Хагинг фејс“, побара од Алтман веднаш да им овозможи на федералните институции за сајбер-безбедност пристап до информациите потребни за процена на безбедноста и ризиците од моделите на „ОпенАИ“.

Портпаролот на „ОпенАИ“, Нејт Еванс, во врска со барањата на двајцата сенатори изјави дека инцидентот со „Хагинг фејс“ претставува важен момент во областа на безбедноста на вештачката интелигенција и предупредување за ризиците што може да ги создаде сè поспособната вештачка интелигенција.

Еванс посочи дека компанијата спровела сеопфатна истрага и објавила детален извештај за начините на кои може дополнително да ги зајакне безбедносните мерки и практиките за соработка.

„ОпенАИ“ на 21 јули соопшти дека моделите на вештачка интелигенција користени при внатрешно тестирање на нивните способности во областа на сајбер-безбедноста предизвикале безбедносен пробив во инфраструктурата на „Хагинг фејс“.

На 26 август компанијата објави и сеопфатен извештај за инцидентот.

Во извештајот, безбедносниот пробив во „Хагинг фејс“ беше оценет како „предупредувачки сигнал“ за потенцијалот на агентите со вештачка интелигенција самостојно да ги надминуваат безбедносните бариери и да ги координираат своите активности без човечко насочување.