Проверкой займется независимая лаборатория.
Российские ИТ-компании при поддержке Минцифры предлагают передать независимой испытательной лаборатории проверку больших моделей искусственного интеллекта на соответствие законодательству и традиционным духовно-нравственным ценностям. Об этом «Ведомостям» сообщили источники, знакомые с обсуждением инициативы, а также подтвердили в Минцифры.
Обсуждение будущих правил проходило в конце июля — начале августа на площадке АНО «Цифровая экономика». Необходимость разработки соответствующего порядка связана с законом об ИИ, принятым 26 июля. Документ вводит два специальных статуса для крупных фундаментальных моделей — национальной и суверенной. Для их получения разработчики должны подтвердить соответствие ИИ российскому законодательству и традиционным ценностям.
Отдельный перечень ценностей создавать не планируют. По словам источника, вместо этого вместе с представителями бизнеса разработают специальные бенчмарки, с помощью которых будут оценивать ответы моделей. При этом критерии могут основываться на положениях указа президента № 809, где уже закреплен перечень традиционных российских ценностей.
Предполагается, что разработчик сможет обратиться в испытательную лабораторию с заявлением и предоставить сведения об архитектуре модели, компании и используемых механизмах фильтрации. Специалисты затем протестируют ИИ с помощью специальных бенчмарков, в том числе проверят возможность обхода установленных ограничений с использованием промпт-инъекций.
Источник: hi-tech.mail.ru