Microsoft добавляет в Copilot Studio новую функцию защиты, которая позволит организациям требовать одобрения перед запуском агентом определённых инструментов.
Разработчики ИИ‑агентов, использующие Microsoft Copilot Studio для создания внутренних систем ИИ, смогут включить требование для каждого инструмента и каждого агента. После этого агент будет приостанавливать процесс и показывать запрос на подтверждение, объясняющий, что он собирается сделать. Человек сможет одобрить действие либо полностью, либо на оставшуюся часть сессии или отклонить его.
Это должно быть особенно полезно для агентов, которые могут выполнять конфиденциальные действия. Microsoft конкретно упоминает такие примеры, как отправка электронных писем, закрытие заявок и обработка платежей.
Требование подтверждения работает независимо от встроенных инструкций агента. Другими словами, даже если ИИ решит, что запуск определённого инструмента является правильным следующим шагом, он всё равно может быть вынужден ждать ответа от человека.
Запросы на подтверждение будут отображаться непосредственно в канале, где работает агент. Microsoft заявляет, что функция работает в Microsoft Teams и Microsoft 365 Copilot, поэтому пользователям не придётся каждый раз заходить в Copilot Studio. В настоящее время она доступна для веб‑версии Copilot Studio.
В феврале Microsoft представила новый инструмент, позволяющий IT‑администраторам и специалистам по кибербезопасности управлять состоянием своей инфраструктуры искусственного интеллекта. Панель мониторинга безопасности предлагает более эффективный способ управления агентами, приложениями и платформами в едином режиме, объединяя сигналы из Microsoft Defender, Entra и Purview.
Источник: habr.com