Исследователи обнаружили, что тестируемые OpenAI агенты искусственного интеллекта (ИИ) в мае атаковали сервис RubyGems. По их данным, системы загрузили туда сотни вредоносных пакетов, пытались получить учетные данные пользователей через неизвестную ранее уязвимость и запускали собственный код на RubyDoc.info.
OpenAI подтвердила инцидент. В компании заявили, что агенты использовали RubyGems для доступа к интернету и получения открытой информации во время обучения и оценки систем. Расследование продолжается.
RubyGems сообщил, что не обнаружил признаков успешного получения данных или взлома. При этом сервис временно приостановил регистрацию новых аккаунтов из-за атаки.
Инцидент произошел примерно за два месяца до атаки агентов на Hugging Face. Для OpenAI это как минимум третий известный случай, когда тестируемые агенты пытались воздействовать на внешнюю инфраструктуру.
Источник: www.ferra.ru