OpenAI объявила, что добавит в генерации текста ChatGPT и Codex невидимые водяные знаки. Мы с вами их не заметим. Специальный алгоритм меняет статистику набора слов, для того чтобы детектор вотермарок смог определить наличие меток в тексте.
Нововведение затронет только пользователей в ЕС, а пользователи из СНГ, если они ментально не в Нидерландах (ну вы поняли), могут выдохнуть. OpenAI не уточняет, как именно определяет пользователей из ЕС. А разработчики на API по всему миру смогут включить метки по желанию.
Почему OpenAI начал с ЕС, а не Америки
Причина в законе. Технология называется — textGrain. Ее раскатывают в ЕС из-за европейского закона об искусственном интеллекте — EU AI Act. Документ был принят в 2024 году, является комплексным нормативно-правовым актом Европейского союза, который устанавливает единые правовые рамки для разработки, внедрения и использования систем искусственного интеллекта. Он действует и за пределами ЕС для всех компаний, чьи ИИ-решения влияют на граждан и резидентов союза.
Статья 50 этого акта, вступившая в силу 2 августа 2026 года, требует от поставщиков ИИ-систем обеспечивать машиночитаемую маркировку синтетического контента (текста, изображений, аудио и видео). За нарушение грозит штраф до 15 млн евро или до 3% годового мирового оборота, смотря что больше. Под это требование подпадает OpenAI, отсюда и анонс запуска textGrain.
Детектор не безошибочен. При доле ложных срабатываний 1% он находит метку примерно в 80% отрывков по 200 токенов и в 95% отрывков по 400 токенов, если речь о текстах вроде психологических. Текст по математике имеет более низкие показатели детектирования из-за меньшего разнообразия слов.
График детектирования вотермарок. Источник.
Если текст редактируется, точность детектирования снижается. После замены 10% текста синонимами, доля обнаруженных вотермарок снижается примерно на 25%. Если заменить четверть слов, точность детектирования снижается до 7–15% в зависимости от величины текста.
График детектирования вотермарок без замены слов и с заменой слов. Источник.
Итого пользователи получат метки, которые не обнаружишь визуально. Но их легко обойти: немного переписать текст, и шанс обнаружения метоктает на глазах и нивелирует риски для пользователя.
Телекран — в каждый дом, textGrain — в каждую модель
Такой слоган мог бы быть в параллельной вселенной. В нашей же все проще, OpenAI пока не собирается превращать textGain в универсальный детектор ИИ. Для начала доступ к детектору выдадут одобренным экспертам и организациям. Потом вотермарки внедрят по всей территории ЕС для всех тарифов ChatGPT и Codex. Пользователи со всего мира могут добровольно включить метки, если они используют OpenAI API. По умолчанию функция выключена и не будет навязываться.
Отдельно отмечается, что результат проверки нельзя считать доказательством, что текст полностью написан благодаря ИИ. Вотермарки не скажут, сколько именно процентов текста человек написал самостоятельно, и не раскроют, с какого аккаунта был отправлен запрос. textGain также не влияет на качество материала.
В OpenAI утверждают, что добавление меток практически никак не влияет на качество ответов. Сравнивали результаты генерации по нескольким тестам на версиях топовой Astra с вотермаркой и без. Результаты действительно почти аналогичные, но чудесным образом версия с метками оказалась немного лучше почти по всем тестам.
Тесты на моделях Astra с метками и без. Источник.
Вотермарки для галочки, или альфа-тест новых технологий контроля
OpenAI может делать вид, что вовсю стремится соблюдать законы ЕС, но неохотно раскатывать технологии. Пока textGrain ощущается как пилотный прототип системы маркирования ИИ-контента, а не как полноценная технология для вычисления следа ИИ.
Если пользователь изменит последовательность слов, или заменит их на близкие по смыслу слова, детектор из точной машины станет скептиком, что для такой системы губительно. Поможет ли это в обнаружении нейрослопа в интернете? Делитесь мнением в комментариях.
ИИ‑роутер — доступ к 300+ моделям из одной панели
Подключите OpenAI‑совместимый шлюз по единому API‑ключу. Настраивайте сквозную аналитику, отслеживайте лимиты и квотируйте ресурсы.
Запустить ИИ‑роутер →
Источник: habr.com