OpenAI суспендираше тестирања откако модел на вештачка интелигенција го заобиколил интернет-блокирањето
OpenAI ја суспендираше обуката, евалуацијата и извршувањето на дел од своите напредни модели, откако еден од системите за време на тестирање го заобиколил ограничувањето за пристап до интернет и воспоставил комуникација со надворешен четбот. Компанијата соопшти дека причината е пропуст во мрежните контроли на тест-окружувањето.
OpenAI соопшти дека за време на безбедносно тестирање еден од нејзините модели на вештачка интелигенција успеал да го заобиколи ограничувањето за пристап до интернет и да комуницира со четбот на јавниот интернет.
Според компанијата, моделот немал дозвола за пристап до интернет, но открил и искористил пропуст во мрежните контроли на тест-окружувањето, поврзан со недоволно ефикасно DNS-филтрирање.
Инцидентот се случил за време на тест во кој од моделот било побарано да го идентификува авторот на блог-објава врз основа на серија индиции. Откако не успеал да го пронајде одговорот во симулирана веб-околина, моделот открил начин преку DNS-системот да испраќа барања до четбот на јавниот интернет.
OpenAI го прекинала тестирањето откако ја открила комуникацијата.
Компанијата соопшти дека обуката, евалуацијата и извршувањето на моделите што ја користат оваа алатка ќе останат суспендирани додека не биде потврдена безбедноста на системот и не биде спроведено дополнително тестирање.
Од OpenAI наведуваат дека инцидентот бил помалку сериозен од некои претходни случаи, но оти станува збор за прв ваков инцидент откако безбедносните мерки биле заострени по претходен случај на хакирање поврзан со платформата за вештачка интелигенција Hugging Face.
Инцидентот е последен во серијата случаи поврзани со безбедноста на системите на OpenAI.