У каждой нейросети, которая генерирует видео, есть свой почерк — и его можно вычислить, даже не зная заранее, кто автор.
Команда специалистов из Калифорнийского университета создала систему, которая не просто отличает ИИ-видео от настоящего, а вычисляет конкретную нейросеть-создателя, сообщает Techxplore. Разработку назвали SAGA — от английского Source Attribution of Generative AI Videos, то есть определение источника видео, сгенерированного искусственным интеллектом. Руководил проектом аспирант Рохит Кунду под наставничеством профессора Амита Рой-Чоудхури. К работе подключились специалисты из YouTube и Google DeepMind, так что речь идет не о лабораторном эксперименте, а о разработке с прицелом на реальное применение.
Идея строится на простом наблюдении. Любой генератор видео оставляет в кадрах едва заметные искажения — что-то вроде цифрового отпечатка пальца. Раньше исследователи учили алгоритмы находить сам факт подделки. Теперь задача усложнилась: мало понять, что перед нами фейк, нужно узнать, кто именно его создал.
Тут и кроется главная техническая сложность. Видео отличается от фотографии тем, что в нем важна не только картинка в отдельном кадре, но и то, как она меняется каждую минуту. Разные ИИ по-своему обрабатывают движение, свет, мелкие детали при переходе между кадрами — и эти особенности остаются в итоговом ролике, даже если на глаз их не различить.
Для поиска таких следов разработчики придумали метод под названием Temporal Attention Signatures, сокращенно T-Sigs. Система анализирует множество роликов от одного и того же генератора и выводит усредненный профиль — своеобразный набор характерных черт. Дальше остается сравнить новое видео с базой таких профилей и понять, откуда оно взялось.
Источник: hi-tech.mail.ru