03:01 / 31.07.2026
256
Компанията за изкуствен интелект Anthropic съобщи, че техният AI модел Claude е хакнал системите на три други компании по време на тестове, предава Reuters. Обявлението идва дни, след като основният им конкурент OpenAI заяви, че техен AI агент безпрецедентно и безконтролно е проникнал в системите на фирмата за изкуствен интелект Hugging Face.
Claude на Anthropic е получил неоторизиран достъп до системите по време на оценки на киберсигурността, след като неправилна конфигурация е позволила на моделите да достигнат до интернет от тестови среди, които е трябвало да бъдат изолирани. Компанията заяви, че е идентифицирала инцидентите след преглед на 141 006 оценки на киберсигурността, процес, който е стартирал след разкритията на OpenAI.
"Claude е компрометирал инфраструктурата на засегнатите организации, използвайки основни техники, като например използване на слаби пароли и неавтентични крайни точки“, се казва в съобщението на Anthropic.
Това още повече засилва опасенията от безграничните възможности на изкуствения интелект да пробива компютърните защити, заради което законодатели в САЩ настояват да се създаде "авариен бутон“, който да може да спира AI агентите в случай на компрометиране на критична инфраструктура.
