В ответы моделей Grok в API внедрят невидимый водяной знак с 7 ноября. SpaceXSI сообщила об этом в документации для разработчиков.
Такая метка позволит определить, что текст написан нейросетью. Её получат ответы семи моделей, в том числе grok-4.7, grok-4.6, grok-4.5, grok-4.3, grok-4.20-reasoning, grok-4.20-non‑reasoning и grok-4.20-multi‑agent.
В SpaceXSI объяснили внедрение метки требованиями европейского Закона об ИИ (EU AI Act).
Водяной знак будет включён на глобальном и региональных адресах API. Он распространяется на обычные текстовые ответы, структурированный вывод и аргументы вызовов инструментов в Responses API и Chat Completions API. Метка не добавляет в ответ символов, разметки или скрытого текста: при генерации модель немного смещает выбор токенов. Распознавание статистическое, поэтому, чем длиннее текст, тем надёжнее будет результат. Доступ к API для проверки текстов выдают по заявке.
Разработчикам не понадобится вносить изменения в код. О том, что ответ помечен, будет сообщать заголовок x‑watermark: true.
Компания утверждает, что водяной знак не влияет на качество и скорость ответов.
Администраторы команд могут отключить метку для отдельных моделей в консоли SpaceXSI. Настройка действует на все ключи API команды, а изменения применяются в течение пяти минут. При отключении потребуется подтвердить, что оно подпадает под исключение по закону, и взять на себя ответственность за маркировку.
Для некоторых команд отдельные модели заблокированы, и отключить знак у них нельзя. При этом каждое изменение записывается в журнал аудита.
Похожие водяные знаки уже внедряют в OpenAI, которая начала помечать тексты в ChatGPT и Codex. Технология textGrain от OpenAI тоже незаметно изменяет статистический шаблон слов токенов, выбираемых моделью.
Источник: habr.com