Сподели close
E-mail Принтирай Копирай този линк
Размер на шрифта Сподели
A A A

OpenAI призова в петък родния си щат Калифорния да "засили“ закона за изкуствения интелект след скорошните автономни хакерски атаки от страна на неговите модели. Това e забележителна стъпка, след като създателят на ChatGPT преди това се противопоставяше на по-строги правила, пише Politico.

Компанията заяви, че е ангажирана да работи с калифорнийския законодателен орган и губернатора по въпроса, което я прави първата голяма лаборатория за изкуствен интелект, която призовава за промени в закона за прозрачност. Той е първият по рода си в страната, който включва изисквания за това кога компаниите за изкуствен интелект трябва да докладват за определени проблеми с безопасността.

"Последните инциденти подчертават както необходимостта от тези защити, така и важността от актуализирането им, тъй като се появяват нови рискове и предпазни мерки в индустрията“, заявяват от OpenAI в публикация в LinkedIn.

OpenAI и останалата част от индустрията за изкуствен интелект също се борят със засилен, двупартиен обществен контрол, особено около изграждането на центрове за данни и съдебни дела, в които се твърди, че техните чатботове причиняват вреда на деца. Разкритията миналия месец, че модели на OpenAI и други големи компании за изкуствен интелект са хакнали други технологични компании самостоятелно, допълнително разтърсиха индустрията и доверието в техните системи. Самите инциденти не задействаха правилата за разкриване или прилагането им съгласно съществуващото законодателство на Калифорния.

В публикацията на екипа по глобални въпроси на OpenAI се казва, че иска законът да бъде изменен, за да изисква наблюдение на гранични модели, които все още се обучават или оценяват, за потенциално сериозни инциденти. Те включват "поведение, което би могло да заобиколи контрола за сигурност на трета страна и да компрометира поверителната информация на третата страна“.

Инцидентите, при които ChatGPT самостоятелно излезе от контролирана среда и хакна друга технологична компания не задействаха калифорнийския закон. Наложи се събитието да бъде разкрито от OpenAI, както и от Anthropic и Meta, които докладваха за подобни инциденти.