Microsoft опубликовала предупреждение о новой функции Windows 11 — агентных ИИ-модулях, которые смогут выполнять задачи вместо пользователя.
Компания отмечает, что включать функцию стоит только тем, кто понимает связанные с этим риски. По умолчанию она будет отключена.
После активации система создаёт отдельные локальные учётные записи для ИИ-агентов. Они работают в защищённой среде, но получают доступ к папкам пользователя — включая Documents, Downloads и Desktop.
Это необходимо для выполнения действий в приложениях и файловой системе.
Microsoft подчёркивает, что агентные ИИ открывают новые векторы атак. Среди них — «cross-prompt injection», когда вредоносный контент в интерфейсе или документах может изменить инструкции агента и привести, например, к установке нежелательного ПО.
Компания обещает прозрачность работы ИИ, обязательные логи действий и подтверждение критических операций пользователем. Первые сборки с агентами уже доступны инсайдерам.
Источник: www.ferra.ru