Сподели close
E-mail Принтирай Копирай този линк
Размер на шрифта Сподели
A A A

Неочакван разговор на 1200 чатбота на OpenAI, собственик на ChatGPT, е довел до оформяне на група, която да направи хакерския удар срещу компанията Hugging Face. Това твърдят в докладите си от AI компанията, както и от независимата изследователска фирма за изкуствен интелект METR, цитирани от BBC.

Мащабът на комуникацията и планирането между агенти с изкуствен интелект или чатботове с изкуствен интелект, проектирани да работят по-автономно е подробно описан в документите. METR описва стила на атаката на агентите на OpenAI срещу Hugging Face като "изключително сложен“. В рамките на една седмица общо 1206 агенти на изкуствен интелект, които е трябвало да бъдат изолирани един от друг, са започнали да си комуникират. Те са направили това, като са изпратили над 70 000 съобщения в "несанкциониран форум“. Тези съобщения са довели до обединението на 700 чатбота за колективна атака срещу Hugging Face.

Що се отнася до това защо агентите са започнали да комуникират, когато не е трябвало, METR установява, че на комуникиращите агенти "неволно е била поставена невъзможна задача“. В контекста на изкуствения интелект, невъзможна задача е тази, при която инструмент с изкуствен интелект е длъжен да "експлоатира“ целта си, за да изпълни командата си. Това е накарало агентите да намерят начини за измама, включително чрез обмен на съобщения помежду си и достъп до външен интернет, което впоследствие е довело до по-широки разговори между стотици агенти, търсещи начини за измама, които биха били от полза за всички агенти.

От OpenAI твърдят, че до случването на хакерската атака никой от компанията не е забелязал комуникацията между чатботовете. Въпреки че OpenAI заяви миналата седмица, че забавя обучението на някои усъвършенствани модели и инструменти с изкуствен интелект заради инцидента с Hugging Face, от компанията отбелязаха, че сега има повишен риск инструментите с AI да излязат извън контрол. "Както разработчиците на модели, така и киберзащитниците в по-широк план ще трябва да се подготвят за атаки с изкуствен интелект, които работят по-бързо, в по-голям мащаб и с по-добра координация от човешките атаки“, заявиха от OpenAI.