Компания CrowdStrike представила функцию «AI Kill Switch» («аварийное отключение ИИ») в составе платформы Falcon Guardian. Она предлагает специалистам по безопасности полный контроль над ИИ‑агентами. Если тот начинает действовать вопреки заданным алгоритмам, сотрудники службы безопасности могут немедленно остановить его выполнение, заблокировать повторный запуск и ограничить доступ к корпоративной сети.
«Безопасность ИИ — необходимое условие для того, чтобы в полной мере использовать его преимущества. Внедряя агентов с возможностью аварийного отключения, вы сохраняете контроль над ситуацией, — отметил Джордж Курц, генеральный директор и основатель CrowdStrike. — Впервые безопасность становится одновременно и катализатором, и страховочным механизмом при внедрении технологий. Функция AI Kill Switch передаёт управление в руки людей, обеспечивая безопасное использование ИИ».
ИИ‑агенты работают, имея доступ на системном уровне — в конечных точках (эндпоинтах), облачных средах и SaaS‑приложениях. Они выполняют цепочки операций, сталкиваются с препятствиями и могут совершать действия, на которые не было получено разрешение.
В случае, если агент начинает вести себя нежелательным образом, функция AI Kill Switch даёт специалисту по безопасности право принять решающее действие: полностью остановить работу ИИ непосредственно там, где он выполняется. Механизм задействует уже существующий сенсор Falcon на конечных точках и опирается на данные, которые собирает Falcon Guardian: какие задачи поставлены перед агентом, с кем он обменивается информацией и какие действия выполняет.
Сенсор Falcon блокирует выполнение операций агентом сначала на уровне шлюза (Gateway), а потом непосредственно на конечной точке. При этом политики препятствуют повторному запуску агента на целевом хосте или группе хостов.
В итоге тот теряет доступ к корпоративной сети. Само действие инициируется уполномоченным администратором, а каждое предпринятое действие фиксируется в журнале аудита.
Falcon Guardian уже умеет обнаруживать ИИ‑агентов, работающих в корпоративной среде, контролировать их действия согласно установленным политикам и выявлять атаки, направленные против них.
Ранее генеральный директор CrowdStrike Джордж Курц выступил против призывов замедлить развитие искусственного интеллекта. По его словам, модели с открытыми весами и передовые модели уже доступны всем желающим, что делает заморозку разработки неэффективной в борьбе с активными угрозами информационной безопасности. Курц заявил, что после атак ИИ на Hugging Face и RubyGems необходим новый уровень безопасности.
Источник: habr.com