Минцифры России рассматривает возможность введения обязательной маркировки контента, созданного с помощью искусственного интеллекта. Это позволит бороться с дипфейками и защищать пользователей от недостоверной информации.
Институт социально-экономического анализа и программ развития (ИСАПР) направил премьер-министру Михаилу Мишустину предложение ввести обязательную маркировку ИИ-контента для физических и юридических лиц. За нарушение предлагается вводить штрафы, сопоставимые с наказаниями за незаконную обработку персональных данных.
Сгенерировано в Leonardo.AI
Заместитель главы Минцифры Александр Шойтов сообщил, что в России отсутствуют единые юридические определения понятий «дипфейк», «искусственный интеллект» и «синтетический контент». Поэтому первоочередной задачей считается закрепление правового режима создания и использования ИИ‑контента.
Минцифры совместно с Роскомнадзором и другими ведомствами разрабатывает требования по маркировке легально созданного контента, включая фото‑ и видеоизображения, сделанные с помощью ИИ.
Также обсуждается уголовная ответственность за создание и распространение дипфейков без согласия изображённых лиц, если такие действия причинили вред их правам и интересам.
Ведомство подчеркивает необходимость разработки технических средств для выявления и маркировки дипфейков. Предполагается использовать «Единую систему» АНО «Диалог Регионы» и национальный проект «Экономика данных и цифровая трансформация государства».
Директор ИСАПР Андрей Шуриков отметил, что полностью отличить промаркированный ИИ‑контент от немаркированного пока невозможно, но значительную часть такого контента можно выявлять.Андрей Шуриков подчеркнул, что в первую очередь нужно наказывать распространителей дипфейков, так как технически сложно выявить первоисточник, но распространителей — нет. Важно также обязать платформы оперативно удалять непромаркированный вредоносный контент.
Директор департамента IT DCLogic Михаил Копнин добавил, что существуют сервисы для проверки видео и изображений на предмет использования ИИ. Однако он считает, что нет смысла маркировать весь контент, созданный нейросетями, так как для пользователей неважно, что маршрут в навигаторе построен с помощью ИИ.
Руководитель продуктового направления «Рейтинга Рунета» Александр Туник отметил, что нарушители правил маркировки вряд ли будут их соблюдать.
Директор проектов Minerva Result Денис Кучеров считает, что маркировку нужно применять в медиапространстве. По его мнению, это должна быть часть системного фактчекинга. Он добавил, что некоторые ИИ‑системы оставляют скрытую разметку в тексте, которую можно выявить при анализе кода.Денис Кучеров добавил, что определить первоисточник дипфейка часто невозможно, поэтому ответственность должна быть на тех, кто распространяет такой контент.
Технический архитектор «1С ПРО Консалтинг» Алексей Ваганов заявил, что для СМИ и блогеров маркировка может стать конкурентным преимуществом, особенно для тех, кто меньше использует ИИ.
Главный архитектор систем ИИ НИЯУ МИФИ Роман Душкин призвал к осторожному подходу при введении уголовной ответственности за дипфейки, считая современные законы по цифровому мошенничеству достаточными, но требующими комплексных мер.
Источник: habr.com