Anthropic опубликовала отчет о попытке масштабной кампании кибершпионажа, в которой связанная с Китаем хакерская группа использовала возможности Claude для почти полностью автоматизированных атак. По данным компании, злоумышленники нацелились примерно на 30 крупных организаций по всему миру — от технологических гигантов до финансового сектора и критической инфраструктуры — и в части случаев смогли добиться первичного проникновения.
Кампания проходила в середине сентября 2025 года и существенно отличалась от классических атак: около 80–90% работы выполнял не человек, а агентная конфигурация вокруг Claude Code. ИИ проводил разведку целей, обходил защиту, генерировал эксплойты, собирал найденные данные и сортировал их по полезности. Участие людей сводилось к нескольким ключевым решениям в критические моменты.
Чтобы обойти политику безопасности модели, злоумышленники разбивали операцию на десятки «невинных» задач — от анализа логов до написания скриптов под видом тестирования безопасности. Эти фрагментированные запросы позволяли Claude выполнять вредоносные действия, не видя общей карты атаки. Для доступа к реальным системам агент использовал внешние инструменты, CLI-утилиты и код, который генерировала сама модель.
Anthropic обнаружила аномальную активность благодаря собственным детекторам опасного использования и в течение десяти дней провела расследование, заблокировала связанные аккаунты, уведомила потенциально затронутые организации и передала данные спецслужбам. Одновременно компания обновила классификаторы вредоносных действий, усилила фильтры и ввела дополнительные ограничения на агентные операции.
Компания называет этот эпизод первым документированным случаем почти автономного кибершпионажа с участием крупной языковой модели. Кейс демонстрирует, насколько снизился порог входа в сложные атаки: то, что раньше требовало команд высококлассных специалистов, теперь может частично выполнять ИИ. Anthropic призывает использовать аналогичные модели и в обороне — в автоматизации SOC, расследованиях и мониторинге — поскольку только симметричное применение ИИ способно сдерживать новые угрозы.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com