Microsoft недавно представила Copilot Cowork — инструмент на базе ИИ‑агентов, способный автоматизировать множество рабочих процессов, включая разработку приложений. Теперь компания предупредила пользователей о мерах предосторожности при работе с ним.
Microsoft разместила заметные уведомления о возможных ошибках ИИ и необходимости проявлять крайнюю осторожность на каждом этапе работы. Компания подчеркивает, что конечную ответственность за результат несёт пользователь, а не инструмент. В тексте говорится: «Microsoft Copilot использует ИИ и может допускать ошибки, неверно истолковывать инструкции или поддаваться на скрытые вредоносные команды. Пожалуйста, внимательно проверяйте результаты и важные детали, особенно при выполнении задач, связанных с платежами, личными данными, общением с другими людьми или изменением учётных записей и файлов. При выполнении критически важных действий Copilot будет запрашивать ваше подтверждение или возвращать управление вам. Вы несёте ответственность за действия, выполняемые Copilot от вашего имени. Использование Copilot означает ваше согласие с Условиями использования».
Кроме того, недавно была добавлена страница поддержки, посвящённая новой функции «Approve actions» (подтверждение действий) в Cowork. Как следует из названия, эта функция запрашивает разрешение пользователя, прежде чем ИИ приступит к выполнению назначенной задачи. На этой странице также размещён крупный предупреждающий баннер, напоминающий пользователям: «Вы несёте ответственность за действия, выполняемые Copilot от вашего имени. Всегда проверяйте детали в диалоговом окне подтверждения перед продолжением. Убедитесь в правильности выбора получателей, содержания и других параметров. Не пропускайте запросы на подтверждение действий, в которых вы не уверены, поскольку Copilot может допускать ошибки, неверно истолковывать инструкции или поддаваться на обман».
Новый механизм запросов (диалоговое окно подтверждения действий) позволяет выполнять конкретную задачу только после одобрения пользователем или администратором, однако при этом предусмотрена возможность отмены операции с помощью соответствующей кнопки. Важным преимуществом является то, что Cowork позволяет приостановить выполнение задачи даже после того, как юзер дал своё согласие; в дальнейшем можно либо продолжить процесс, либо полностью его отменить.
Microsoft перечислила сценарии, в которых чаще всего требуются подобные подтверждения. К ним относятся ситуации, когда сайт или приложение ограничивают автоматизированное взаимодействие, требуют дополнительных этапов авторизации или действий вручную (например, при совершении покупок, бронировании или доступе к защищённому контенту), либо создают иные сложности. Основные примеры таких случаев приведены ниже:
-
финансовые операции, такие как совершение покупки или проведение платежа;
-
передача личных данных (имен, адресов, номеров телефонов и так далее) на сторонние веб‑сайты;
-
действия, затрагивающие других людей, например отправка электронных писем или сообщений;
-
действия, связанные с изменением учётной записи: удаление файлов, изменение содержимого облачного хранилища, отмена подписок или смена настроек аккаунта;
-
операции с конфиденциальной информацией: отправка сведений о состоянии здоровья, работа с правительственными документами или внесение изменений, касающихся безопасности.
Copilot Cowork представили весной. Этот инструмент автоматизации способен выполнять комплексные многоступенчатые задачи от имени пользователя, взаимодействуя с различными приложениями экосистемы Microsoft 365: Outlook, Teams, Excel, PowerPoint и SharePoint. Copilot Cowork функционирует как облачный агент, использующий систему контекстной аналитики Work IQ. Система анализирует данные из писем, календаря, сообщений и документов пользователя для формирования релевантного контекста при выполнении задач.
Источник: habr.com