«Википедия» официально утвердила новую политику против текстов, созданных нейросетями. Так редакторы библиотеки пытаются защитить качество статей от низкосортного сгенерированного контента.
По новым правилам, редактор энциклопедии могут моментально удалять статьи, в которых явно прослеживаются среды машинного происхождения — обычный процесс удаления занимает около недели. Кроме того, для удаления сгенерированной статьи не нужно проходить многоступенчатую процедуру обсуждения. Ранее такой ускоренный механизм удаления применялся только к бессмысленным наборам слов, рекламе и другим очевидным отклонениям от формата.
Политика «Википедии» устанавливает два ключевых признака сгенерированного текста. Первый — наличие в тексте указывающих на это ключевых формулировок, которые предназначены не для читателя, а для автора запроса. Такими фразами могут быть, например, «Вот ваша статья на тему…», «по состоянию на последнюю дату обучения модели…» или «как большая языковая модель, я не могу…». Подобные формулировки демонстрируют, что текст даже не был вычитан человеком перед публикацией.
Второй признак — заведомо ошибочно или поддельные источники информации. Языковые модели могут иногда «галлюцинировать» и выдавать несуществующие ссылки, либо ссылки, которые не относятся к теме статьи.
Авторы инициативы изменения политики «Википедии» отмечают, что подобные статьи следует рассматривать как цифровой мусор, который подрывает устои коллективного редактирования. Нейросети упрощают жизнь людям, стремящимся создавать такой контент, поскольку могут писть огромные тексты в считанные минуты.
Сообщество «Википедии» и ранее пыталось предпринять меры против сгенерированного контента на площадке, однако редакторы не могли определить надёжные критерии распознавания машинных текстов. Авторы инициативы говорят, что указанные в новой политике критерии чёткие и работают не на догадках, при этом устраняя наиболее очвидные проявления проблемы. В пограничных случаях же по‑прежнему тяжело устанавливать, был ли текст написан с помощью ИИ или нет.
Источник: habr.com