Microsoft внедрила скрытые идентификаторы в изображения, созданные ИИ в Paint и «Фотографиях». Идентификаторы кодируются в пикселях и связывают запросы между собой. Исследователь предупреждает о рисках для приватности, а Microsoft связывает маркировку с требованиями ЕС.
Microsoft встраивает уникальные идентификаторы в изображения, созданные с помощью ИИ в приложениях Paint и «Фотографии» для Windows. Об этом пишет издание The Register со ссылкой на разработчика Ли Сюйшэна, изучившего механизм маркировки AI-контента.
По данным исследователя, при создании изображения пользовательский запрос отправляется на серверы Microsoft для проверки. После этого сервис возвращает уникальный идентификатор, который Paint незаметно кодирует непосредственно в пикселях сгенерированного изображения.
Речь идет об идентификаторе, который отличается от обычного видимого водяного знака. Microsoft использует его в рамках системы отслеживания происхождения контента, а данные об изображении также могут содержать сведения о том, что оно было создано или изменено с помощью ИИ.
Особое внимание Сюйшэн обратил на связь между последовательными запросами. Вместе с новым запросом Paint передает предыдущий идентификатор генерации, благодаря чему несколько обращений к сервису можно связать между собой.
По мнению исследователя, это потенциально создает угрозу для приватности. Если Microsoft связывает выданный идентификатор с учетной записью пользователя, теоретически по встроенному в изображение идентификатору можно установить, кто участвовал в его создании.
Источник: hi-tech.mail.ru