Некоторые пользователи Claude начали отменять платные подписки после того, как Anthropic внедрила незаметные для человека водяные знаки в контент, созданный или обработанный нейросетью, в том числе текст. Об этом пишет Business Insider со ссылкой на сообщения пользователей.
Вотермарки появились в новых версиях Claude 2 августа и представляют собой определённый статистический паттерн, встроенный непосредственно в текст. Он формируется за счёт небольшого изменения выбора слов во время генерации, поэтому визуально текст от обычного не отличается. При этом метка останется в тексте после копирования, вставки и даже небольшого редактирования, говорят в Anthropic.
Компания внедрила систему в том числе для соблюдения требований статьи 50 Закона ЕС об искусственном интеллекте, которая предусматривает возможность машинного определения контента, созданного ИИ. Anthropic в будущем планирует выпустить API для проверки наличия водяного знака.
Некоторые пользователи высказали недовольство нововведением. Они опасаются, что метка будет раскрывать факт использования Claude в профессиональной или академической работе даже после значительной доработки текста. В разговоре с Business Insider разработчики, консультанты и исследователи заявили, что не хотят, чтобы материалы, над которыми они работали с помощью Claude, автоматически маркировались как созданные ИИ. Некоторые из них сообщили о переходе на другие инструменты, в том числе Cursor и Grok.
При этом Anthropic утверждает, что водяной знак не указывает на конкретного пользователя и не означает, что весь текст был написан ИИ. Он лишь позволяет определить, что контент был создан или обработан Claude. Компания также заявляет, что технология не должна ухудшать качество текста.
Впрочем, в Anthropic пока не фиксируют заметного роста числа отмен подписок. Business Insider пока сообщает лишь о десятках пользователей, которые заявили об отказе от платной версии Claude именно из‑за новой системы маркировки.
Источник: habr.com