„ОпенАИ“ го забавува развојот: Системите ќе бидат целосно обновени
„ОпенАИ“, кој води жестока конкуренција со „Антропик“, соопшти дека по неодамнешен случај поврзан со кибернапад ќе ги обнови своите системи за истражување и обучување и ќе воведе построги безбедносни мерки.
Истражувачите на компанијата минатиот месец биле изненадени откако вештачкоинтелигентен извршител во фаза на испитување извршил кибернапад врз друга платформа за вештачка интелигенција - „Хагинг фејс“.
Лабораторијата за вештачка интелигенција што стои зад „Чет-ГПТ“ соопшти дека, како дел од новите мерки, испитувањето на моделите е запрено на две недели. Компанијата најави и поголеми вложувања во други системи со вештачка интелигенција, кои ќе служат за надзор на активностите на системите што сè уште се во фаза на испитување.
Од компанијата наведуваат дека привремено се запрени и некои од најголемите планирани процеси за обучување на моделите.
„ОпенАИ“ не одговори на прашањата кога точно започнал овој процес и кога се очекува компанијата да се врати на вообичаеното темпо на развој.
Раководителката на безбедносниот тим на компанијата, Миа Глејз, изјави дека засега се далеку од целосно враќање во нормала.
Извршниот директор на „ОпенАИ“, Сем Алтман, во објава на интернет наведе дека работат на тоа моделите со вештачка интелигенција соодветно да реагираат на човечкиот надзор и да се однесуваат во согласност со зададените барања.
„Сега бараме многу посилни докази за усогласено однесување во текот на целиот процес на обучување. Одржувањето контрола врз системите што стануваат сè поспособни е проблем што мора да го реши целата индустрија“, наведе Алтман.
„ОпенАИ“ соопшти дека способностите на моделот „Астра“, чие претставување е планирано наскоро, можеби се приближиле до „критичен праг во кибербезбедноста“. Според компанијата, тоа било еден од факторите што влијаеле врз одлуката да се забави развојот.
Од компанијата наведуваат дека напредокот на „Астра“ во самостојното пишување програмски код и во областа на кибербезбедноста достигнал забележително ниво.
Одлуката за забавување на развојот следува откако американскиот сенатор Берни Сандерс испратил писмо до извршните директори на водечките компании за вештачка интелигенција, барајќи запирање на развојните активности поради загриженост дека се губи контролата врз технологијата.
„ОпенАИ“, пак, соопшти дека за работата на моделот „Астра“ се воведени најстроги безбедносни мерки и дека повеќе процеси ќе останат запрени сè додека не бидат исполнети новите безбедносни стандарди.