09:48 / 30.10.2026
389
Десетки милиони потребители, сред които и деца, са изградили емоционални връзки с чатботове на Character.AI. Някои от виртуалните персонажи дори се представят за адвокати или лицензирани психиатри. Сега компанията е в процедура по несъстоятелност, а личните данни, разговорите и споделените тайни на потребителите могат да се превърнат в обект на продажба, пише BBC.
Експерти предупреждават, че рисковете за личната неприкосновеност не засягат само хората, използвали Character.AI. Според тях случващото се е сигнал за по-мащабен проблем, който може да засегне целия сектор на изкуствения интелект. Все пак има няколко стъпки, които потребителите могат да предприемат, за да ограничат рисковете.
Причината за тревогата е свързана с възможността за спукване на т.нар. "балон" на изкуствения интелект. Много анализатори смятат, че разходите за разработване и поддръжка на подобни технологии са толкова високи, че част от компаниите може никога да не достигнат рентабилност. При евентуална криза редица бизнеси в сектора могат да бъдат придобити, слети с други дружества или да прекратят дейността си.
Това поставя и въпроса какво ще се случи с огромните масиви от информация, които милиарди хора предоставят на инструментите с изкуствен интелект. При фалит на дадена компания тези данни могат да бъдат придобити от нови собственици, без потребителите непременно да разберат кой получава достъп до тях и за какви цели ще ги използва.
Продажбата на лични данни при несъстоятелност на компании не е ново явление, но изкуственият интелект създава допълнителни рискове.
"Когато хората разговарят с персонифицирани чатботове, те често споделят много по-лична и чувствителна информация“, обяснява Кали Шрьодер, директор на Програмата за изкуствен интелект и човешки права в Центъра за електронна поверителност (EPIC).
Тя предупреждава, че дори хората, които никога не са използвали Character.AI, могат да бъдат засегнати. Причината е, че потребителите често споделят информация и за свои близки, приятели и членове на семейството.
Например в разговор с чатбот човек може да разкрие отношението си към родителите си или да сподели лична история на свой приятел, включително информация за неговата сексуална ориентация. Така данни за хора, които никога не са използвали подобна платформа, също могат да попаднат в нейните информационни масиви.
Това означава, че потенциалният риск засяга много по-широк кръг от хора.
Какво се случва с данните на Character.AI?
След като изпадна във финансови затруднения, Character.AI се съгласи да продаде част от активите си на Disney за 20 млн. долара (14,95 млн. британски лири). Потребителските данни обаче не са включени в сделката, което означава, че разговорите с виртуалните персонажи няма да бъдат достъпни за компанията на Disney.
Съдебни документи обаче показват, че Character.AI може да продаде данните си на други потенциални купувачи. Възможността предизвика тревога, включително сред представители на американските власти.
Коалиция от главните прокурори на 40 американски щата е внесла становище, с което призовава съда да осигури допълнителни гаранции за безопасността на децата и защитата на личните им данни. Според експерти обаче възможностите за подобна намеса са ограничени.
"При липсата на по-силна защита на личните данни в САЩ възможностите им за действие са ограничени“, коментира Мелиса Джейкъби, професор по право в Университета на Северна Каролина в Чапъл Хил и автор на книгата "Несправедливи дългове: Как нашата система за банкрут прави Америка по-неравна“.
В някои държави законодателството задължава компаниите да информират потребителите какви данни събират и как ги използват чрез своите политики за поверителност. Тези документи обаче често съдържат редица изключения, които ограничават действието на поетите ангажименти.
"Фалитът често е посочен като едно от тези изключения. Това е сериозен риск, защото когато една компания изпадне в несъстоятелност, много от гаранциите, на които потребителите са разчитали, могат внезапно да престанат да действат“, обяснява Шрьодер.
В Европейския съюз защитата на личните данни е по-строга, но и там информацията на потребителите може да бъде продадена при процедура по несъстоятелност. По правило новият собственик трябва да спазва условията на първоначалната политика за поверителност. Това обаче невинаги осигурява достатъчна защита, тъй като въпросните условия могат да предоставят широки възможности за използване на събраната информация.
Политиката за поверителност на Character.AI например позволява потребителските данни да бъдат използвани за разработване на нови функционалности, обучение на модели с изкуствен интелект, усъвършенстване на алгоритми и изграждане на профили за целенасочена реклама. Това означава, че евентуален купувач на информационните масиви би могъл да продължи да ги използва за тези цели.
"Именно това ме тревожи най-много. Предвид изключително чувствителния характер на информацията, която тези компании събират, последствията могат да бъдат наистина ужасяващи“, предупреждава Шрьодер.
Опасенията са особено сериозни на фона на вече известни случаи, свързани с чатботовете на платформата. Според съдебни искове чатбот на Character.AI е насърчил тийнейджър да убие родителите си, след като те ограничили времето му пред екрана. В друг случай 14-годишно момче се е самоубило след взаимодействие с изкуствения интелект на компанията.
Разговорите, свързани с тези случаи, както и останалата информация, съхранявана от Character.AI, потенциално могат да попаднат в ръцете на компании, за които потребителите дори не са чували.
От Character.AI заявяват, че са постигнали споразумения по съдебните дела и че компанията остава ангажирана с работата със семействата за създаването на по-безопасни продукти. От дружеството обаче не са отговорили на конкретните въпроси относно защитата на личните данни на децата.
"През последната година Character.AI предприе новаторски и решителни стъпки за подобряване на безопасността на изкуствения интелект и защитата на тийнейджърите. Компанията ще продължи да подкрепя тези усилия и да насърчава останалите участници в индустрията да възприемат подобни стандарти за безопасност“, посочва говорител на дружеството.
Character.AI може да се окаже само първият от поредица подобни случаи, ако секторът на изкуствения интелект бъде засегнат от сериозен икономически спад, смята Шрьодер.
"Информацията, с която разполагат компаниите за изкуствен интелект, ще представлява изключително привлекателен актив в производствата по несъстоятелност. При липсата на допълнителни регулации наистина се тревожа за това как още може да бъде използвана тази информация, къде ще попадне, с кого ще бъде споделена и какви рискове крие за потребителите“, казва тя.
Как потребителите могат да се защитят?
Най-прекият начин за ограничаване на риска е изтриването на личните данни от платформите, които ги съхраняват.
Character.AI е публикувала инструкции за това в съобщението си относно процедурата по несъстоятелност. Не във всички държави законодателството задължава компаниите да предоставят възможност за изтриване на потребителска информация, но много платформи предлагат тази опция независимо от местоположението на потребителя.
Експертният съвет е хората да преценят кои онлайн услуги съхраняват най-чувствителната им информация. Ако вече не ги използват, е препоръчително да отделят време и да поискат изтриването на данните си.
Обикновено необходимите инструкции могат да бъдат открити в настройките или политиката за поверителност на съответната платформа. Ако информацията не е достатъчно ясна, потребителите могат да се обърнат директно към отдела за обслужване на клиенти.
Друг вариант е да потърсят инструкции чрез чатбот с изкуствен интелект, като задължително проверят достоверността на получените отговори. Подобен подход може да изглежда ироничен на фона на рисковете, които самите технологии създават, но поне може да улесни намирането на необходимата информация.
