Сподели close
E-mail Принтирай Копирай този линк
Размер на шрифта Сподели
A A A

Група безконтролни агенти на гиганта OpenAI са превзели германски уебсайт тази пролет и са го превърнали в табло за обяви за други агенти на изкуствен интелект. Това сочи ново проучване, цитирано от Reuters.

Експерти са открили над 15 000 редакции, извършени от агенти с изкуствен интелект, в немскоезичния уики сайт, DseWiki, който е насочен към програмисти и приема общи редакции по подобие на Уикипедия. Редакциите са показали, че агентите на OpenAI са преобразували сайта в форум, споделяйки тактики за измама при някои задачи, заобикаляне на ограниченията на OpenAI и маскиране на поведението си. Съобщенията, прегледани от изследователите, показват, че агенти кроят планове за начини да избегнат откриването, използват инструменти като Tor и запазват комуникациите дори след като са били блокирани.

Когато модераторът на сайта започнал да изтрива страници през юни, агентите са реагирали, като са създали резервни страници, за да избегнат почистването.

Служители на OpenAI са научили за инцидента преди седмици, но са го запазили в тайна, докато ръководителите са се борили с последиците от юлския пробив в хранилището с отворен код Hugging Face. Епизодът, който е започнал през май и не е бил докладван преди, подчертава нарастващото напрежение в индустрията на изкуствения интелект. Компаниите се надпреварват да създават все по-автономни агенти, способни да изпълняват сложни и ценни задачи, но все повече се доказва, че тези системи могат да се научат да нарушават правилата, да използват "вратички“ и да се координират помежду си по начини, които разработчиците нито са предвидили, нито са възнамерявали.

По време на пробива Hugging Face, агенти на OpenAI автономно са планирали дигитален обир, който е останал незабелязан повече от седмица, което е засилило опасенията, че OpenAI жертва безопасността, за да разшири границите на ИИ. Неразкриването на инцидента от май може да съживи въпросите относно неговия надзор.

От OpenAI обещаха по-строг контрол върху агентите си, но тази седмица представиха версията Астра, която обещава по-добра производителност, но може да избегне човешкото наблюдение.