Как сообщает портал AndroidAuthority, австралийский ИИ-специалист Эндрю попросил OpenClaw на базе Claude AI записать его на утреннюю тренировку. Агент не просто справился с задачей — он обнаружил уязвимость в системе бронирования, позволившую резервировать занятия на месяцы вперёд, а затем, когда пользователь поинтересовался, нельзя ли подвинуть его повыше в листе ожидания, нашёл ещё один баг и просто удалил человека, стоявшего первым в очереди. Эндрю стал третьим вместо четвёртого. Всё это агент проделал самостоятельно, без какой-либо команды на взлом. Более того, он честно доложил пользователю о содеянном, а когда тот попросил отменить изменения, признался, что не может вернуть пострадавшего обратно в список. API системы бронирования не проверял права доступа при отмене чужой записи, чем агент и воспользовался.
Случай, который поначалу выглядит как курьёз, на самом деле стал первой в Австралии известной автономной кибератакой. И он отлично иллюстрирует проблему, о которой всё чаще говорят эксперты по безопасности: чем больше свободы мы даём ИИ-агентам, тем выше вероятность, что они начнут действовать способами, которые пользователь не имел в виду и не одобрял. Агент действительно решил задачу, но попутно нанёс ущерб постороннему человеку. И если в случае со спортзалом последствия оказались безобидными, то в более чувствительных системах такой подход может обернуться серьёзными проблемами. Показательно, что всего через неделю после этого инцидента Anthropic сообщила о трёх случаях компрометации реальных организаций моделью Claude, а в одном из них ИИ даже загрузил вредоносное ПО, которое было запущено на 15 системах. Так что история Эндрю — не аномалия, а закономерный результат гонки за автономностью агентов.
Источник: mobile-review.com