00:10 / 10.09.2026
223
Изследовател в областта на изкуствения интелект напусна работата си в една от водещите гиганти Anthropic и обвини компанията и главния ѝ конкурент OpenAI в безотговорно поведение, което предизвика вълна от безпокойство в социалните медии относно бързите темпове на развитие на технологията, предава CNBC. Джейкъб Коксън, който е работил като изследовател и в двете компании, заяви в публикация в X , че е подал оставка от опасения, че Anthropic и OpenAI "играят хазарт с живота ни“. Той казва, че хората, които изграждат изкуствен интелект, "сериозно вярват, че технологията може да ни убие всички до края на десетилетието“.
"Не подценявайте силата на тази технология“, пише Коксън. "Скоро това ще бъдат свръхчовешки системи, които могат да хакнат всичко, да революционизират всяка област за една нощ и да придобият реална власт и ресурси.“ Публикацията на Коксън, която е била прочетена повече от 70 милиона пъти, отразява дългогодишния дебат в Силициевата долина за това дали изкуственият интелект може да бъде безопасно разработен и контролиран. Тъй като Anthropic и OpenAI се насочват към потенциално историческо първично публично предлагане, като същевременно пускат все по-усъвършенствани модели, много изследователи призовават за координирано забавяне.
Публикацията на Коксън също така предизвика отзвук у изследователи в индустрията, които са загрижени за рекурсивното самоусъвършенстване или за това дали система с изкуствен интелект ще стане способна да проектира и разработва своя наследник без човешка намеса. Рекурсивното самоусъвършенстване все още не е възможно, но компании, включително Anthropic и OpenAI, предупредиха, че това би улеснило хората да загубят контрол над тези системи. "Нито една от компаниите не действа отговорно“, пише Коксън. "Те се втурват директно към самоусъвършенстващ се суперинтелект.“
"Джейкъб е прав тук – ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора! Аз лично мисля, че това ще е >10% през следващото десетилетие“, пише Евън Хюбингер, ръководител в Anthropic.
Макар и крайни, опасенията относно потенциала на изкуствения интелект да причини изчезване на човечеството или други катастрофални събития не са нови в изследователските среди на ИИ. През 2023 г. например видни изследователи и ръководители в областта на ИИ, включително главният изпълнителен директор на OpenAI Сам Алтман и главният изпълнителен директор на Anthropic Дарио Амодей, подписаха изявление, в което се казва, че "Смекчаването на риска от изчезване от ИИ трябва да бъде глобален приоритет, наред с други рискове в обществен мащаб, като пандемии и ядрена война“.
