Microsoft внедрила обязательную систему согласия для Windows 11, которая запрещает агентам искусственного интеллекта доступ к личным файлам без явного разрешения пользователя.
В новых экспериментальных сборках шесть папок — Рабочий стол, Документы, Загрузки, Музыка, Изображения и Видео — защищены по умолчанию.
Система разрешений работает индивидуально для каждого ИИ-помощника. Когда агент пытается открыть файл, Windows выводит интерфейс согласия, где можно предоставить постоянный доступ, требовать авторизацию для каждого действия или отказать. Пользователи также могут настроить доступ модульно: например, разрешить ИИ изменять системные настройки, но закрыть доступ к документам или фото.
Такие меры безопасности введены из-за рисков «галлюцинаций» ИИ и новых методов атак, таких как внедрение скрытых вредоносных инструкций в документы. Это может заставить автономного агента выполнять опасные действия, например, устанавливать вирусы или передавать платежные данные злоумышленникам.
Павлик Александр
Источник: ru.gecid.com