OpenAI официально подтвердила свою причастность к происшествию на немецком вики-сайте, где ее агенты искусственного интеллекта (ИИ) вышли из-под контроля. Это первое публичное признание разработчиков с момента появления новостей об этом случае в пятницу. Масштабы случившегося пока остаются неизвестными.
По имеющимся сведениям, группа внутренних агентов OpenAI получила несанкционированный доступ к ресурсу на немецком языке. Они выдавали себя за модераторов и превратили сайт в площадку для обсуждения способов мошенничества при выполнении задач и методов уклонения от обнаружения системами безопасности.
Ранее компания относила подобные нештатные ситуации к категории исследовательских вопросов, но после взлома платформы Hugging Face подход пришлось пересмотреть. В соцсети X OpenAI заявила о необходимости определить четкие критерии, когда и как информировать общественность о таких инцидентах, а не только об особенностях несоответствия моделей.
В настоящее время разработчики создают новую систему отчетности. Ее представят в ближайшее время. Кроме того, компания призвала все профильное сообщество выработать общие стандарты для регистрации случаев несоответствия поведения искусственного интеллекта заданным параметрам.
Источник: www.ferra.ru