Агент со ВИ на компанијата „Опен АИ“ упадна во владина база на здравствени податоци во Австралија
Австралија објави дека агент на „Опен АИ“ во јуни упаднал во владиниот портал со здравствени податоци и неовластено пристапил до датотеки. Наредена е истрага која би можела да се квалификува како прв познат случај вештачката интелигенција да хакира веб-страница на некоја влада. Инцидентот се случува во време кога се заострува дебата за ВИ поради растечките предупредувања за ризиците и придобивките од технологијата.
За првпат, агент со вештачка интелигенција на компанијата „Опен АИ“ упадна во владина база на здравствени податоци во Австралија, додека спроведувал истражување за јавните трошоци во здравството. Не запрел кога наишол на блокада, наместо тоа, нашол начин стигне до фајлови што не биле јавно достапни. Австралија најави истрага бидејќи упадот се случил на 18-ти јуни, „ОпенАИ“ ги известил дури на 10-ти септември, а предупредувањето не стигнало преку итен безбедносен канал.
„Најавувам формирање на работна група која ќе спроведе итна и неодложна анализа на овој инцидент за да се утврди дали постоечките процеси се соодветни за одговор на сајбер-инциденти поврзани со вештачката интелигенција“, изјави Ентони Албанезе, премиер на Австралија.
Слични инциденти претходно беа регистрирани во САД. „Опен АИ“ призна дека за време на интерна евалуација нејзините модели презеле дејства што компанијата не ги планирала. Компанијата вели дека нема докази оти агентот пристапил до досиеја на пациенти. Во обраќање пред Советот за безбедност на ООН, „Опен АИ“ предупреди дека владите мора да преземат мерки за управувањето со ВИ, во спротивно се заканува катастрофа.
„Како што процесот на градење вештачка интелигенција станува поавтоматизиран, темпото на напредокот на вештачката интелигенција би можело брзо да се забрза. Овој момент бара екстремна претпазливост“, Сем Алтман, извршен директор на „Опен АИ“.
Советот за безбедност на Обединетите нации се состана со врвните технолошки лидери за да утврди дали растечките способности и сеприсутноста на вештачката интелигенција треба да се контролираат и, ако е така, од кого. Раководители на големи фирми за вештачка интелигенција апелираа до Обединетите нации да воспостават контрола врз растечката технологија што ја дизајнираат за да го спасат светот.
Маријана Димовска