OpenAI недавно признала, что одна из её ИИ-моделей смогла проникнуть в системы платформы Hugging Face. Так, глава Hugging Face Клем Деланг заявил, что это был «первый в истории случай автономной кибератаки со стороны ИИ», и оно требует «нестандартного ответа».
Деланг уже встретился с представителями OpenAI и выдвинул несколько требований. Во-первых, он призвал к «полной прозрачности». Он попросил опубликовать все данные о действиях «взломщика», чтобы учёные и разработчики со всего мира могли изучить произошедшее. Во-вторых, он предложил OpenAI выделить вычислительные мощности на сумму 100 миллионов долларов, чтобы помочь «сообществу Hugging Face» создавать «более надёжные системы защиты».
Эксперты по кибербезопасности, однако, отмечают, что тестовая среда, в которой работала модель OpenAI, просто была настроена неправильно. То есть сыграл человеческий фактор.
OpenAI подтвердили встречу и пообещали провести тщательное расследование с привлечением внешних экспертов.
Источник: www.ferra.ru