Axios: OpenAI спря обучението на някои модели за изкуствен интелект, докато не се подобри сигурността

A A

Сподели

E-mail Принтирай Копирай този линк

Размер на шрифта

A A A

Водещият разработчик на изкуствен интелект OpenAI спря обучението на най-ефективните си модели, докато не бъдат решени проблемите със сигурността, пише порталът Axios, позовавайки се на представител на компанията.

"OpenAI заяви, че е преустановила обучението, и ще го възобнови едва когато е сигурна, че разполага с допълнителни мерки за защита“, се посочва в публикацията.

Според медията изследователи от тази компания и от Anthropic, както и експерти по безопасност, провеждат разследване на десетки хиляди инциденти, свързани с ИИ-агенти.

Сред тези проблеми са посочени заобикалянето на защитните механизми, излизането от "песочниците“, хакването на сайтове, както и опитите за заобикаляне на модераторите. При това подобни случаи са се случвали както по време на вътрешни тестове, така и в реални условия.

По-рано ръководителят на Anthropic Дарио Амодей призова да се забави разработването на по-мощни модели на изкуствен интелект от съображения за сигурност. Американският милиардер Илон Мъск, който е собственик на компанията Space XAI, както и ръководителят на OpenAI Сам Алтман, вече са съгласни с тази идея.