Специалисты Чикагского университета выпустили Nightshade 1.0 — инструмент, предназначенный для наказания недобросовестных создателей моделей машинного обучения, которые обучают свои системы на данных, предварительно не получив разрешения.
Nightshade — «наступательный инструмент» для защиты изображений от несанкционированного использования. Технология называется Glaze и минимизирует видимые изменения исходного изображения. Ещё разработчики называют своё детище «отравой», «паслёном» — для обмана ИИ.
«Nightshade вычисляется как многоцелевая оптимизация, которая минимизирует видимые изменения исходного изображения. Например, человеческий глаз может увидеть затенённое изображение коровы на зелёном поле практически без изменений, но модель ИИ может увидеть большой кожаный кошелек, лежащий в траве», — рассказал один из руководителей проекта.
Специфика технологии заключается в выборе ярлыка, который описывает то, что на самом деле изображено, чтобы размыть границы этого понятия, когда изображение попадает в модель для обучения.
Источник: www.ferra.ru
Похожие новости:
Вышло обновление Automatic 1111 до версии 1.8.0, что нового и как обновиться?
Исследование: цензуру языковых моделей можно обойти с помощью ASCII-арта
Обзор IT-Weekly: GigaChat сдал экзамен на врача, Nvidia приближается по уровню капитализации к Amazon
Как делегировать эффективно и без стресса: пошаговый план