Стремительное развитие искусственного интеллекта обостряет проблему фейкового контента. Согласно Sumsub, количество дипфейков в 2024 году выросло в четыре раза по сравнению с предыдущим годом, составив 7% от всех случаев мошенничества, включая кражи аккаунтов.
В ответ на эту угрозу компания Meta представила свою разработку Meta Video Seal — инструмент с открытым исходным кодом для нанесения невидимых водяных знаков на видео, созданные с помощью AI. Это решение дополняет уже существующие инструменты компании, такие как Watermark Anything и Audio Seal.
Пьер Фернандес, научный сотрудник отдела исследований AI в Meta, подчеркивает уникальность нового инструмента. По его словам, хотя на рынке уже существуют аналогичные решения от DeepMind (SynthID) и Microsoft, они имеют существенные недостатки. Video Seal предлагает более совершенный подход, обеспечивая устойчивость к сжатию при публикации в социальных сетях и эффективность при масштабном применении.
Технология позволяет не только наносить водяные знаки, но и встраивать скрытые сообщения для определения происхождения видео. При этом метки остаются устойчивыми к базовому редактированию, включая размытие и обрезку. Однако существуют определенные ограничения — сильное сжатие или значительные изменения могут нарушить целостность водяных знаков.
Для продвижения своей технологии Meta запускает публичный рейтинг Meta Omni Seal Bench, который позволит сравнивать эффективность различных методов водяных знаков. Компания также планирует провести специализированный семинар на конференции ICLR, стремясь привлечь внимание разработчиков и исследователей к своему решению.
«Мы стремимся к сотрудничеству с индустрией и академическим сообществом для развития технологий защиты контента», — отмечает Фернандес, выражая надежду на широкое внедрение водяных знаков в работу разработчиков AI.
*Meta и её продукты (Facebook, Instagram, WhatsApp) запрещены на территории Российской Федерации
Источник
Источник: habr.com
Похожие новости:
Объявлены победители AdIndex Awards 2024
Исследование GARANT IN: Наиболее востребованные визы для ИТ специалистов в 50 странах мира
Meta* Connect 2024: Очки Orion, гарнитура Quest 3S, обновления Meta* AI и многое другое
Вам врут, когда говорят, что китайские смартфоны во всём превзошли iPhone. Вот в чём они конкретно лучше