16:51 / 02.10.2026
377
Изследователи от Калифорнийския университет в Лос Анджелис (UCLA) са създали система с изкуствен интелект, която използва светлина, за да анализира едновременно повече от дузина видеоклипове, като открива фалшиви изображения с близо 98% точност. Нейната скорост, ниските енергийни изисквания и устойчивостта на атаки биха могли да я превърнат в мощен инструмент за скрининг на нарастващия поток от видеоклипове, генерирани от изкуствен интелект.
Ключовата разлика е, че част от процеса по откриване се осъществява чрез физическото разпространение на светлината. Това позволява много видеоклипове да бъдат оценявани едновременно в рамките на един оптичен проход, вместо всеки от тях да преминава отделно през конвенционален канал за цифрова обработка.
Технологията е подробно описана в проучването "Мащабируема, енергийно ефективна оптично-невронна архитектура за мултиплексирано откриване на фалшиви видеоклипове", публикувано в списание eLight.
Изследователите са проектирали оптичната система с изкуствен интелект като високопроизводителен и устойчив на атаки първи слой на защита за скрининг на големи количества манипулирани и генерирани от изкуствен интелект видеоклипове.
Нарастващото предизвикателство на откриването на фалшиви данни
Бързото развитие на генеративния изкуствен интелект направи синтетичните видеоклипове все по-реалистични, което увеличава нуждата от системи за разпознаването им, които са едновременно точни и способни да обработват големи обеми съдържание.
Много от усъвършенстваните системи за откриване на фалшиво съдържание разчитат на огромен брой цифрови изчисления. Един-единствен анализ може да изисква стотици милиарди операции с плаваща запетая, а видеоклиповете често се обработват последователно. С увеличаването на количеството съдържание за проверка нарастват както времето за обработка, така и енергийните разходи.
Цифровите системи за откриване са изправени и пред друг проблем. Нападателите могат умишлено да променят фалшивите видеоклипове по фини начини, целящи да заблудят детектора и да накарат манипулираното съдържание да изглежда автентично.
Професор Айдоган Йозджан и неговият екип от UCLA са разработили хибридна цифрово-оптична система, предназначена да се справи и с двете предизвикателства.
Първоначално лек цифров енкодер извлича компактна информация от всяко видео, включително пространствени, спектрални и времеви характеристики. След това тази информация се преобразува във фазов модел и се подава към програмируем пространствен светлинен модулатор.
Полученият оптичен вълнов фронт преминава през пасивен оптичен декодер, базиран на разпространение на светлината в свободно пространство. В другия край сдвоени оптични детектори директно генерират оценка за автентичността на всяко видео.
По този начин системата заменя изчислително интензивната цифрова мрежа за декодиране с физически процес, който може да обработва множество видеопотоци паралелно.
Близо 98% точност в 15 видеоклипа едновременно
В експерименти с използване на видима светлина процесорът е анализирал едновременно 15 видеоклипа от набора данни Celeb-DF при всяко оптично преминаване.
Системата е постигнала средна точност на откриване от 97,79%, при чувствителност от 99,86% и специфичност от 95,72%. Чувствителността показва доколко успешно системата идентифицира манипулираните видеоклипове. Именно затова високата чувствителност е особено важна за инструмент за скрининг, чиято цел е да сведе до минимум пропускането на фалшиво съдържание.
Чувствителността от 99,86% съответства на среден дял на фалшиво отрицателните резултати от около 0,14%. Това означава, че само много малка част от манипулираните видеоклипове са били неправилно класифицирани като автентични.
Изследователите са усъвършенствали системата и са увеличили капацитета ѝ до 18 видеоклипа при едно оптично преминаване. Дори при този по-голям брой средната точност на откриване е останала висока – 96,13%.
Повече оптични слоеве повишават производителността
Екипът установил, че производителността на процесора може да бъде подобрена чрез увеличаване на физическата дълбочина на пасивния му оптичен декодер, без това да води до съществено увеличение на енергопотреблението или латентността при извеждане на резултатите.
Когато изследователите добавили два оптимизирани пасивни дифракционни слоя и тествали системата с по-сложни манипулации на дипфейк видеоклипове, точността на откриване се подобрила с около 6,8%.
Тези фазово-дифракционни слоеве могат да бъдат изработени като пасивни, статични оптични структури или повърхности. Те извършват допълнителна обработка чрез дифракция на светлината, без да изискват допълнителна електрическа енергия по време на извеждането на резултата.
Този подход би могъл да позволи по-сложна обработка на информацията, без същите енергийни разходи, които обикновено са свързани с увеличаването на размера на цифровите невронни мрежи.
Тестване на системата спрямо видеоклипове от Google VEO-3
Изследователите не са ограничили експериментите си до конвенционални дипфейкове със замяна на лица. Те са тествали процесора и с видеоклипове, генерирани с помощта на модела Veo 3 на Google.
По-новите генеративни системи с изкуствен интелект могат да създават кадри, при които липсват много от очевидните артефакти, характерни за по-ранните технологии за създаване на дипфейкове. Това ги превръща в по-трудна цел за детектори, обучени основно върху по-старите форми на манипулация.
При минимална фина настройка оптичният процесор е постигнал 94,80% точност и 97,61% чувствителност при анализ на невиждани досега видеоклипове, генерирани с Veo 3.
Резултатите показват, че подходът би могъл да се адаптира към развитието на генеративните технологии с изкуствен интелект и появата на нови методи за създаване на синтетично съдържание.
Детектор за фалшиво съдържание, проектиран да бъде по-труден за заблуда
Оптичната система е показала устойчивост и на атаки от типа "черна кутия“, като същевременно осигурява присъща защита срещу атаки от типа "бяла кутия“.
Част от тази защита се дължи на начина, по който детекторът извършва изчисленията си. Тъй като част от процеса на извеждане на резултата се осъществява чрез дифракция на светлината, важни параметри на оптичния модел са физически вградени в хардуера.
Тези параметри могат да бъдат трудни за измерване, възпроизвеждане или обратно инженерство от страна на атакуващия. Това прави реконструирането на детектора и разработването на целенасочени промени, които да го заобиколят, значително по-трудно.
Процесорът е продължил да работи надеждно и когато видеоклиповете са били засегнати от шум в изображението, размазване, JPEG компресия и експериментални несъответствия. Според изследователите резултатите показват как оптичните изчисления биха могли да осигурят по-сигурна и надеждна основа за определени системи с изкуствен интелект.
Първа линия на защита срещу дипфейкове
Вместо да замени изцяло сложните цифрови детектори, процесорът на UCLA е проектиран да функционира като първи, високочувствителен етап в по-голяма система за откриване на манипулирано съдържание.
Огромни обеми видеосъдържание първоначално биха могли да преминават през паралелния оптичен процесор. Съдържанието, определено като подозрително, след това може да бъде изпращано към по-изчислително натоварващи цифрови модели за по-подробна окончателна оценка.
Този подход би могъл да съчетае предимствата на двата метода. Оптичната обработка може да осигури паралелна работа, ниски енергийни изисквания, висока чувствителност, устойчивост на атаки и възможност за адаптиране към по-нови генератори на видео с изкуствен интелект. Конвенционалните цифрови системи, от своя страна, могат да извършват по-задълбочен анализ, когато това е необходимо.
Според изследователите подобна комбинация би могла да намери приложение при модериране на съдържание в голям мащаб, удостоверяване на медии, системи за наблюдение и други приложения с изкуствен интелект, при които сигурността е от критично значение.
