13:46 / 28.09.2026
5561
Модел на OpenAI хакна сайт на австралийското правителство и създаде първия в света изкуствен случай на пробив в държавна институция от страна на изкуствен интелект, действащ извън контрол. Какви рискове за човечеството започва да крие технологията? Това коментира Антон Пулийски, преподавател по правни и етични аспекти на Изкуствения интелект и консултант в сферата на неговата киберсигурна и безопасна интеграция, в предаването "Утрото на фокус" по Радио ФОКУС.
"Всяка една технология, която се появява в нашето ежедневие, крие своите рискове, както се случва и когато се е появило електричеството. Така и тук има много рискове, които са свързани с това, че ние виждаме ползите от това изкуственият интелект да автоматизира дадени действия и сме изкушени да му даваме все повече задачи, които той да върши от наше име", коментира гостът.
"В случая мога да кажа, че основното нещо, което трябва да направим, за да може да разгледаме изкуствения интелект като наш помощник, е да се информираме първоначално какво трябва и какво не трябва да се прави с него или по-скоро къде са неговите слабости", добави той.
Според него основните рискове, които виждаме да се реализират от началото годината до сега, са свързани с това, че на изкуствения интелект му се предоставят множество възможности той сам да си получава информация и сам да предприема действия без контрола на човек.
"Ако доскоро си говорехме с изкуствения интелект по сравнително прост начин — задавахме му въпрос и той ни отговаряше, а след това започнахме да го молим да ни пише имейли, като ние само му предоставяме необходимата информация, днес вече сме изправени пред следващата стъпка. Изкуственият интелект може сам да отговаря на определена група имейли, да превръща получен имейл директно в предстояща среща, да ни дава препоръки или дори да създава план в наш файл", посочи Пулийски.
"Стигнахме до ситуация, в която изкуственият интелект се превръща в наш помощник, който работи и без нас. И тогава рисковете са не само от това, какво може да не сме до разбрали или да не сме чак толкова добре информирани, до това някой да направи действия от наше име, които да не са изобщо в наша полза.
Изкуственият интелект хаква австралийското правителство – явно от сега нататък това ни чака", коментира още гостът.
"Информирайте се – просто това е начинът, по който можем да се предпазим", призова Антон Пулийски.
Повече по темата можете да слушате в звуковия файл.
