Anthropic представила в Claude функцию для создания файлов прямо в чате — теперь можно генерировать таблицы Excel, презентации PowerPoint и другие документы. Но вместе с этим появились и серьёзные предупреждения о безопасности: новая возможность может поставить данные пользователей под угрозу.
Функция под названием «Upgraded file creation and analysis» работает в тестовом режиме у подписчиков Max, Team и Enterprise, а позже станет доступна и для Pro. Она даёт Claude доступ к вычислительной среде с интернетом, где можно скачивать пакеты и запускать код. По словам Anthropic, злоумышленники могут использовать скрытые инструкции в файлах или ссылках, чтобы вынудить модель передавать данные на внешние серверы. Такой тип атаки называется «промт-инъекцией» и остаётся одной из главных нерешённых проблем ИИ.
Компания заявляет, что уязвимости были выявлены в ходе собственных проверок. В качестве защиты введены ограничения: запрет на публичное деление файлами, изолированные среды для Enterprise, ограничение времени выполнения задач и список разрешённых доменов.
Однако эксперты считают, что ответственность всё равно перекладывается на пользователей. Компания им советуют внимательно следить за действиями Claude и прерывать работу, если он неожиданно обращается к данным. Исследователь Саймон Уиллисон отметил, что использовать функцию с конфиденциальной информацией пока крайне рискованно.
Источник: www.ferra.ru