Компания Google DeepMind официально запустила в открытый доступ сайт synthid.com. Теперь любой пользователь интернета может загрузить изображение, аудиозапись или видеоролик, чтобы проверить наличие фирменной криптографической маркировки искусственного интеллекта. Ранее доступ к этой системе предоставлялся исключительно аккредитованным журналистам и организациям по проверке фактов.
Путь к сегодняшнему релизу занял чуть больше трех лет. Летом 2023 года Google впервые представил технологию SynthID для защиты картинок, создаваемых нейросетью Imagen на облачной платформе Vertex AI. В конце 2023 года аналогичную защиту интегрировали в генератор музыки Lyria, вшивая неслышимый код в звуковые волны.
Весной 2024 года разработку расширили на генератор видео Veo, а также выложили открытый модуль для текстовых моделей. В течение прошлого года инструмент тестировался в закрытом пуле исследователей, попутно привлекая партнеров уровня OpenAI и NVIDIA. Сегодняшний запуск портала synthid.com сделал технологию общедоступной для всей мировой аудитории.
Загружаем изображение без нейросетевой обработки
В отличие от стандартных чекеров, которые пытаются угадывать синтетическую графику по артефактам и размытиям, сервис работает по принципу считывания цифровой подписи. Во время генерации система внедряет в структуру пикселей или аудиодорожки скрытый псевдослучайный математический паттерн.
Просим ChatGPT внести незначительные правки
Человек его не замечает, однако детектор находит этот след даже после сильного сжатия файла, кадрирования или пересылки через социальные сети.
И проверяем результат еще раз
Источник: habr.com