Почитав обсуждение «Хабр проиграл войну с нейрослопом» @orchidfiles, подумал, как иронично, что в борьбе с «нейрослопом», то есть для задачи отличать машинно-сгенерированные тексты от человеко-сгенерированных, люди сразу после появления chatgpt начали также полагаться на машины («детекторы» и прочее).
Это такой неожиданный перехлёст «теста Тьюринга», в котором люди не просто уже не способны распознать машину в собеседнике, а начинают полагаться на машину, чтобы та для них определяла человечность.
Хотя реальная проблема никогда, на самом деле, не покидала сферу «человечного»: это вопрос грамотности в высоком понимании термина — то есть, уровня работы с текстом, которому сейчас не считают нужным массово учить, и о нужности которого даже нет массового представления. А ведь под грамотностью (literacy) подразумевается вовсе не просто умение складывать буквы в слова.
Организация экономического сотрудничества и развития выделяет шесть уровней грамотности. Люди, чей уровень грамотности соответствует 1-му уровню или находится ниже него, обладают крайне низкими навыками; 3-й уровень считается минимально необходимым для того, чтобы справляться с повседневными задачами. Уровни определяются следующим образом:
Ниже 1-го уровня: взрослые могут читать короткие тексты на знакомые темы и находить в них отдельные конкретные сведения. Для этого достаточно владения базовым словарным запасом; понимание структуры предложений или абзацев не требуется.
1: взрослые могут прочитывать относительно короткие цифровые или печатные тексты, чтобы находить информацию, которая сформулирована либо дословно содержанию вопроса, либо синонимами. От человека ожидается знание базовой лексики, умение определять смысл предложений и читать небольшие фрагменты текста.
2: взрослые способны сопоставлять информацию, содержащуюся в цифровых или печатных текстах, с поставленными задачами. Они могут пересказывать содержание своими словами или делать простые логические выводы.
3: от взрослых требуется умение читать объемные, насыщенные информацией или сложные тексты и ориентироваться в них.
4: взрослые могут объединять, интерпретировать или обобщать информацию из сложных или пространных текстов. Они способны выявлять и понимать отдельные второстепенные идеи, что позволяет им интерпретировать или оценивать тонкие взаимосвязи между аргументами, доказательствами и убеждающими высказываниями.
5: взрослые способны находить и объединять информацию из нескольких насыщенных текстов, сопоставлять схожие или противоречащие друг другу идеи и точки зрения, а также оценивать аргументацию, основанную на доказательствах. Они распознают скрытые риторические приемы, способны делать сложные логические выводы и опираться на специальные фоновые знания.
Впрочем, более полезной для понимания, что из себя представляют уровни грамотности и в чём их важность на практике, я нахожу другой вариант классификации, которая включает описание, чего без определённого уровня грамотности люди не могут:
-
соответствует уровню грамотности детей 5–7 лет. Взрослые, чей уровень подготовки ниже первого уровня, могут быть не в состоянии написать короткое сообщение членам семьи или прочитать дорожный знак.
-
соответствует уровню грамотности детей 7–9 лет. Взрослые, чей уровень подготовки ниже уровня 2, могут быть не в состоянии описать врачу симптомы болезни ребенка или прочитать инструкцию на упаковке лекарства.
-
соответствует уровню грамотности детей 9–11 лет. Взрослые, чей уровень подготовки ниже уровня 3 могут быть не в состоянии разобраться в информации на упаковках продуктов питания или понять содержание счетов за коммунальные услуги.
-
примерно соответствует нижней части школьной программы 8–9 классов — уровню оценок «3» и ниже по ОГЭ по данному навыку (в британской системе — GCSE grades D–G). Взрослым с навыками ниже этого уровня может не хватать умений, чтобы разобраться в расписании автобусов или пригородных поездов либо понять расчётный листок по зарплате.
-
примерно соответствует уверенному уровню выпускника 9 класса / базовому уровню 10–11 класса — твёрдой «4» по ОГЭ или базовому ЕГЭ по соответствующему предмету (в британской системе — GCSE grades A*–C). Людям с навыками ниже этого уровня может не хватать умений распознавать фейковые новости и предвзятость в СМИ (fake news и media bias).
Упоминание fake news и media bias особенно важно, потому что это указывает, что высокий уровень грамотности уже не про способность работать с замкнутым текстом в изоляции, а чтение на мета-уровне — т.е. чтение в контексте общей картины мира читателя, которая позволяет расположить текст, причины (cause) и мотивы (goals) его написания в контексте материальной реальности, с учётом всего релевантного контекста — от информации об авторе до общего исторического контекста момента написания и/или прочтения текста. В русском языке нет подходящего устоявшегося термина для такого уровня чтения, поэтому я буду называть это глубокой грамотностью.
Глубокая грамотность — это не просто способность вчитываться в текст, т.к. потенциал извлечения информации текста в изоляции крайне ограничен,* а способность встраивать прочитываемый текст в общую картину мира, сверять с картиной мира и осознавать изменения, которые этот текст вносит в картину мира.
*скажем, случайный набор букв может быть совершенно нечитаемым и не скажет сам по себе ничего, но если вы получили этот набор символов в сообщении от знакомого человека, то это может многое сказать об их состоянии или ситуации в моменте
Исходя из этого, я добавлю последнюю, высшую степень глубокой грамотности, которая следует за умением распознавать фейковые новости и предвзятость в СМИ (fake news и media bias):
уровень 6: умение встраивать себя как читателя в картину мира, в контексте которой читается текст. Т.е. понимать, что читатель, как человек, не существует отстранённо от материальной реальности, в которой выполняет работу чтения текста, и включать собственную предвзятость, опыт, bias в работу с текстом (чтение) на глубочайшем уровне.
И в контексте глубокой грамотности, вопрос нейрослопа: тот факт, что люди прибегают к машинам, чтобы определить, писался ли текст человеком, выдаёт истинную проблему с головой — проблема нейрослопа это проблема грамотности (literacy), т.е. проблема не машинная, а человеческая — проблема читателя. И, следовательно решается проблема нейрослопа тоже на человеческой стороне, на стороне читателя — развитием глубокой грамотности.
Поэтому ИИ не столько губит человеческую грамотность — если человеку нужна помощь машины, чтобы отличить машинный текст от человеческого, там губить уже нечего — сколько требует нового ликбеза: глубокого ликбеза. Ликбез (ликвидация безграмотности) — это проблема начала XX века, и она в основном решена: складывать буквы в слова и пробегать по тексту глазами, в поиске точных совпадений или синонимов нужных формулировок мы умеем.
Работать с текстом на мета-уровне (т.е. в контексте общей картины мира, в которой существует этот текст) и уметь включать себя как читателя в эту картину, учитывая собственную субъектность и субъективность — это задача, которая стоит перед нами теперь.
Война с нейрослопом выигрывается не на Хабре, а в головах
Развитие глубокой грамотности — не просто про поиск ответа на «вопрос нейрослопа», а про работу с самим вопросом.
Работу с вопросами тоже можно разложить на обычной и глубокой уровни:
-
первый уровень работы с вопросом — работа над ответом на вопрос.
-
второй уровень работы с вопросом — изучение самого вопроса, его постановки (фрейминга).
Получается что-то вроде классической дихотомии ума и мудрости: умный человек способен определить ответ на вопрос, мудрый — определить вопрос, на который стоит отвечать.
Эта разница (точнее, отсутствие её понимания) очень заметно выражена во всех дискуссиях о нейрослопе, что я до сих пор видел, включая ту, с которой я начал эту статью. Все обсуждают, как определить нейрослоп, но никто (насколько я мог заметить) не обсуждает, что и зачем мы определяем. И начинается это прямо с заголовка «Хабр проиграл войну с нейрослопом», за которым не следует никакого объяснения, что это за война, за что ведётся и зачем нужна. Ни у автора, ни у обсуждающих рефлексии на тему «за что воюем» я не нашёл.
А вежь проблема нейрослопа вовсе не возникла с современными LLM. До LLM нейрослопа был буквальный нейро (от слова «нейрон») слоп — набранные людьми бессмысленные или едва осмысленные тексты, точнее, тексты, смысл которых лежит вне заявленной в самом тексте задачи. Т.е. набрать текст, соответствующий минимальным требованиям заказачика, за деньги, чтобы покушать — осмысленно для набирающего, осмысленно, скорее всего, для заказчика — но не для читателя. LLM не создали новую проблему — они просто автоматизировали и разогнали всегда существовавшую. Разогнали до такой степени, что теперь становится невозможно избежать правды, которая была верна и до LLM: решением проблемы плохих текстов является подготовка более лучших читателей. Читателей, которые будут способны самостоятельно определять, стоит ли текст — будь он написан машиной, человеком, или в коллаборации — прочтения.
Возрождение автора
И ещё одно контринтуитивное соображение по поводу нейрослопа, оно же — о важности диалектического (т.е. нелинейного) мышления. Естественная склонность нетренированного разума к линейному мышлению всегда ведёт к однообразным и, обычно, ошибочно линейным выводам, например: появление машин, которые способны писать как люди, уничтожит пишущих людей как занятие и профессию. Окончательную смерть автора, в общем.
Я думаю, как раз из-за засилья нейрослопа мы вскоре увидим обратное: возрождение автора. Дело в том, что с «текстовым взрывом» интернета, с которым количество производимых и читаемых текстов возросло на множество порядков по сравнению с доинтернетной эпохой, и теперь у каждой кухарки в течение жизни собирается собственное «собрание сочинений», которому и Владимир Ильич Ленин бы позавидовал, связь автора с текстами размывалась уже давно, до последней ниточки эфемерной ассоциации ника в интернете с размещённым под ним текстом.
Появление нейрослопа это проблему не создало — однако оно её обострило (засилье нейрослопа в данном случае иллюстрирует второй закон диалектики: переход количества текстового слопа в новое качество проблемы) настолько, что она уже становится нестерпимой. И решением её как раз и является возрождение автора — т.е. восстановление связи автора с текстом, которая возможна только через знакомство с авторами. Не обязательное буквальное — в реальной жизни, по внешности или даже по настоящему имени, а с авторской репрезентацией через их тексты. Это тоже своего рода модель — модель автора, складывающаяся у читателя по прочтении их текстов.
Возвращение автора как переменной в читаемые тексты добавляет критический слой верификации текста через авторскую историю, по мере накопления которой (прочитанных авторских текстов) формируется уникальная, узнаваемая модель как авторской мысли, так и стиля. Скажем, те, кто читали мои статьи раньше, независимо от отношения к прочитанному здесь, могут узнать в нём прочитанное у меня раньше в других текстах — иными словами, узнать автора.
Кстати, способность сопоставления прочитанного с прочитанным ранее, узнавать эхо прочитанного раннее в другом тексте или, наоборот, отмечать изменения также является элементом глубокой грамотности.
Неудивительно поэтому, что проблема нейрослопа острее всего там, где сильнее всего сепарация втора от текста (и, в более общем смысле, креатора от контента, т.к. это также касается аудио и видео).
Многие контентные проекты до недавнего времени считали, что это хорошая идея — размывать значение авторства, делать авторов максимально заменимыми шестерёнками «процесса производства контента». В результате, сайты, где сепарация автора от контента была взята за основу, и осуществлена технически с помощью алгоритмов — Дзен для статей, ТикТок для видео, Яндекс-музыка для музыки — также стали и главными рассадниками нейрослопа — текстового, видео и аудио, соответственно.
Потому что там, где знакомство с автором (креатором) как причину появления контента на экране пользователя заменили алгоритмом, пользователю (читателя) ограничили возможность сопоставления конкретной единицы контента с историей автора — а вместе с ней и возможность опознать, что что-то не так.
В этом смысле, у сайтов, которые более-менее сохраняют автороцентричность в основе своей модели (как Хабр для текстов или YouTube для видео), положение оказывается более выигрышным, потому что, вместе с накоплением усталости от нейрослопа, будет расти усталость от анонимности (опять же, речь необязательно о буквальном доксинге и деаноне, а наличии авторской истории), выход из которой — через осознанность в отношении авторства всего, что претендует на внимание пользователя и читателя. Уникальное авторство является противоядием против нейроотравы.
Наверное, в этом и находится путь к победе в «войне с нейрослопом»
Источник: habr.com