«Яндекс» подтвердил соответствие международному стандарту ответственной разработки искусственного интеллекта. Компания первой в России получила сертификат ISO/IEC 42001. Документ подтверждает, что «Яндекс» ответственно создаёт и применяет ИИ.
Независимый аудит проверил процессы разработки и внедрения YandexGPT. Эксперты установили, что они соответствуют требованиям стандарта. Проверка охватывала вопросы этики, прозрачности и безопасности.
Стандарт ISO/IEC 42 001:2023 описывает подходы к управлению разработкой и применением ИИ в организациях. Он не оценивает сами ИИ‑продукты. Аудит показывает, как компания выстраивает процессы и насколько они надёжны.
YandexGPT представляет собой семейство больших языковых моделей компании «Яндекса». Они используются в 20 сервисах и продуктах компании. Эксперты проверили защиту пользовательских данных, работу мониторинга ошибок и аномалий, контроль качества и этичности ответов, сбор обратной связи и ведение документации. Аудит также подтвердил, что «Яндекс» учитывает социальные и этические риски, связанные с ИИ, и обучает сотрудников правилам ответственной разработки.
Принципы работы с ИИ «Яндекс» публикует в открытом доступе. В марте 2024 года компания подписала декларацию об ответственной разработке ИИ в составе профильного Альянса. «Яндекс» регулярно вводит новые меры безопасности. С весны 2025 года компания подключила «белых хакеров» для поиска уязвимостей в нейросетях.
Источник: habr.com