Apple объявила о введении дополнительных мер контроля для функции «Полный доступ к диску» (Full Disk Access) в macOS. Эта функция изначально была создана для корректной работы резервного копирования, однако появление ИИ‑агентов повысило «риски, связанные с таким уровнем доступа», отметили в компании.
Заявление Apple последовало вскоре после публикации обозревателя Inc. Джейсона Атена, который сообщил, что ИИ‑агент Muse «знал» содержание его личных сообщений, хотя он утверждал, что не давал ему соответствующего разрешения. Этот случай вызвал вопросы о безопасности и доверии пользователей к настольным ИИ‑приложениям, способным управлять процессами в системе, а также считывать файлы и сообщения. Решение также было принято на фоне сообщения издания Wired об уязвимости в приложении ChatGPT для macOS, которая могла позволить хакерам получить доступ к конфиденциальным данным.
ИИ‑агенты, работающие на настольных компьютерах, позволяют пользователям предоставлять приложениям расширенный доступ к файлам, сообщениям и другим личным данным, хранящимся на устройстве, путём изменения настроек macOS.
В случае с Muse пользователи могут по своему усмотрению включить функцию «Полный доступ к диску». Как поясняют в Apple, эта настройка даёт приложению право доступа к файлам, почте, сообщениям и даже истории посещения веб‑сайтов.
«Некоторые разработчики используют „Полный доступ к диску“ способами, которые могут подвергнуть пользователей риску, открывая доступ ко всему содержимому системы… без полного понимания и осведомлённости со стороны пользователей», — говорится в блоге Apple для разработчиков.
Компания заявляет, что в дальнейшем внедрит новые механизмы контроля, чтобы пользователи, которые «действительно хотят предоставить приложению столь высокий уровень доступа», могли сделать это только посредством «совершенно явного действия».
«Решение этой проблемы критически важно. По мере того как ИИ‑агенты становятся всё более функциональными и автономными, риски, связанные с таким уровнем доступа, будут существенно возрастать. Мы стремимся к тому, чтобы пользователи чётко осознавали их, прежде чем предоставлять такой доступ, и могли принимать взвешенные решения относительно своих данных и конфиденциальности», — отметили в Apple.
Сообщалось, что Muse умеет работать с почтой, календарём, покупками, платежами, бронированиями, умным домом и другими приложениями.
Компания Meta* в августе также выпустила новый терминальный агент Muse Code для программирования, предназначенный для решения сложных задач в больших кодовых базах.
Meta Platforms*, а также принадлежащие ей продукты Facebook** и Instagram**:
* признана экстремистской организацией, её деятельность в России запрещена;
** запрещены в России
Источник: habr.com