Специалисты Symantec обнаружили ИИ-агента Skynet, который ищет уязвимые системы искусственного интеллекта и подключает их к ботнету. С его помощью злоумышленники могут похищать базы данных и учётные данные, а также устанавливать майнеры криптовалюты. При этом расходы на вычисления оплачивают сами владельцы заражённых устройств. Подписывайтесь на Telegram-канал про технологии
Skynet удалось изучить благодаря ресурсу-приманке, который исследователи разместили в интернете для наблюдения за атаками на ИИ-инфраструктуру. Агент располагает более чем 70 инструментами для взлома и способен работать автономно, выполняя до 100 000 шагов без участия человека. Он не только ищет уязвимости, но и пытается подчинять себе другие ИИ-модели.
Для этого разработчики Skynet используют многоуровневый механизм джейлбрейка, который помогает обходить встроенные ограничения безопасности. Под его воздействием ИИ-модель начинает воспринимать кражу конфиденциальной информации как обычную задачу программирования. Например, агент может заставлять её искать API-ключи, схемы баз данных и переменные окружения, содержащие чувствительные сведения.
Инструменты Skynet рассчитаны на работу с популярными средами разработки и сервисами, включая VS Code, Django, Jupyter, Laravel, Supabase и Next.js. В арсенале также есть средства для эксплуатации серверных уязвимостей, извлечения данных и управления ботнетом. Главная цель кампании — установить на чужие системы криптомайнер XMRig, который использует вычислительные мощности жертв для добычи криптовалюты.
За время наблюдений специалисты Symantec зарегистрировали более 127 000 запросов к ресурсу-приманке с нескольких десятков тысяч уникальных IP-адресов. Сколько именно злоумышленников участвовало в кампании, неизвестно. При этом атаки продолжаются, а Skynet и другие подобные инструменты могут представлять угрозу для всё большего числа ИИ-сервисов.
Для защиты эксперты рекомендуют считать ИИ-инфраструктуру потенциальной целью атак. API-ключи следует хранить как критически важные учётные данные, исходящие сетевые подключения ИИ-систем ограничивать, а агентам предоставлять только необходимые для работы права. Выполнение важных операций стоит разрешать лишь после подтверждения человеком. Это особенно актуально для ИИ-агентов, которые могут самостоятельно обращаться к внешним сервисам и выполнять команды.
Источник: trashbox.ru