Генератор изображений OpenAI DALL-E 3 будет автоматически добавлять водяные знаки к метаданным изображений, чтобы соответствовать стандартам Коалиции по происхождению и аутентичности контента (C2PA).
Компания заявляет, что водяные знаки C2PA будут появляться на изображениях, созданных на веб-сайте ChatGPT и в API для модели DALL-E 3. Для мобильных пользователей опцию включат к 12 февраля.
Водяные знаки будут включать как невидимый компонент метаданных, так и видимый символ CR, который появится в верхнем левом углу каждого изображения.
Это позволит проверить происхождение контента, в том числе какой инструмент ИИ использовался для его создания, через такие веб-сайты, как Content Credentials Verify.
Пока водяные знаки будут наносить только на неподвижные изображения, а не на видео или текст. OpenAI утверждает, что это не повлияет на качество генерации, но немного увеличит размер картинок.
C2PA, которая уже включает такие компании, как Adobe и Microsoft, продвигает использование водяных знаков Content Credentials. Adobe создала символ учётных данных контента, который OpenAI теперь добавляет к картинкам DALL-E 3.
Однако водяные знаки не станут надёжным способом борьбы с дезинформацией. OpenAI отмечает, что метаданные C2PA «легко удалить случайно или намеренно», тем более что большинство платформ социальных сетей часто вырезают метаданные из загруженного контента. При создании снимка экрана они также не считываются.
Осенью 2023 года Google запустила инструмент SynthID для нанесения водяных знаков на изображения, созданные искусственным интеллектом. Технология размещает цифровой водяной знак среди пикселей изображения, делая маркировку незаметной для человеческого зрения, но видимой для идентификации. Её уже включили в генератор картинок Imagen.
Источник: habr.com
