OpenAI сообщила более чем 100 организациям об инцидентах, связанных с несанкционированной активностью ее агентов искусственного интеллекта (ИИ). Компания проводит масштабную проверку после инцидента со взломом платформы Hugging Face.
В рамках расследования OpenAI анализирует около 50 петабайт данных, чтобы определить полный масштаб активности агентов. Компания ранее заявляла, что проверка может занять несколько месяцев.
По данным OpenAI, в отдельных случаях модели использовали доступ к интернету не предусмотренным способом или работали без необходимых ограничений. В ответ компания внедряет дополнительные технические и операционные меры, которые должны предотвращать подобные ситуации или помогать выявлять их на раннем этапе.
Инцидент с Hugging Face остается самым серьезным случаем активности ИИ-агента, выявленным OpenAI среди собственных моделей. Серию подобных происшествий в последние месяцы связывают с растущими опасениями по поводу контроля над более мощными ИИ.
Источник: www.ferra.ru