Anthropic начала прием заявок на тестирование расширения Claude для браузера Google Chrome: на старте планируется отобрать 1 тысячу владельцев подписки Max. Количество участников будет увеличиваться параллельно совершенствованию протоколов безопасности.
Claude for Chrome работает в формате чата с ИИ, который открывается рядом с веб-страницей. В чате можно задавать Claude вопросы по контенту, а также просить выполнить разнообразные действия: запланировать звонок, отсортировать почту, найти номер в отеле для поездки и т. д.
Большое внимание в Anthropic уделяют безопасности работы агента. Claude for Chrome будет активироваться только на сайтах из списка, составленного пользователем, а также запрашивать подтверждение перед совершением важных действий, вроде удаления почты или заполнения форм на сайте.
В Anthropic добавляют, что агентская работа в браузере — совершенно новая область для Claude, которая несет в себе новые угрозы безопасности. Например, злоумышленники могут оставлять на сайте невидимый текст с командами для ИИ. В полностью автономном режиме (без описанных выше мер безопасности) Anthropic снизили количество успешных атак с 23,6% до 11,2%, а цель предстоящего тестирования — проверить еще большее количество пользовательских сценариев.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com