
В последний год все вокруг только и твердят о том, куда бы ещё внедрить искусственный интеллект и какие ещё процессы перевести на агентов. Из каждого утюга доносятся возгласы: “Скилы! Агенты! Упряжи! Графы! Второй мозг! Векторные базы данных!”. С технологической точки зрения, развитие ИИ и правда выглядит как гигантский скачок, но если посмотреть на это с социальной точки зрения, то перед нашими глазами открывается катастрофа.
Корпорации размышляют над тем, куда внедрить ИИ, хотя в мире стремительного распространения ИИ реальные потребности людей лежат в прямо противоположном направлении: людей начинают заботить вопросы о том, как найти качественный контент в мире бесконечного нейрослопа, как структурировать своё мышление, как не дать детям отупеть от брейнрота в соцсетях, как создать ценность в мире бесплатного копирования, как не потонуть в бесконечном потоке ИИ-шлака. Решение этих проблем — это тот путь, на котором лежат настоящие сокровища…
Слоп атакует
Ещё в эпоху до появления генеративных нейросетей мы постепенно стали тонуть в потоке низкокачественного контента, но после их появления этот поток усилился в разы. В середине XIX века в России в год выходило примерно 80 новых оригинальных книг и ещё около 80 новых переводных. Если среди всех этих книг находился шедевр, люди начинали его обсуждать: “Голубушка, вы читали последний роман Достоевского? Великолепная книга! Просто великолепная!”. В последние годы до появления LLM в год в России выходили уже десятки тысяч книг. Платформы вроде “Ридеро” или “Литрес Самиздат” позволили издавать книги без издательств, и рынок завалило низкокачественными произведениями. Это если ещё не считать платформ для публикации “попаданцев” и “боярского анимэ” вроде “Автор.Тудей”. В этом потоке бионейрослопа, написанного авторами, почти не владеющими родным языком, хорошим книгам с каждым годом становилось всё тяжелее и тяжелее пробивать путь к читателю, что очевидным образом создало стимулы к понижению среднего качества литературы.
Пример бионейрослопа на Автор.Тудей
С появлением LLM стало возможным публиковать тысячи книг в день. Отыскать что-то качественное в таком потоке слопа просто невозможно. И низкокачественным контентом заваливает не только книжные онлайн-магазины, от нахлынувшего нейрослопа захлёбывается буквально всё: слоп-посты в лентах социальных сетей, слоп-видеоигры в Steam, слоп-статьи в научных журналах, слоп-репозитории в Github, слоп-тексты на Хабре, брейнрот-видео с балериной Капучино, заточенные под вакансию слоп-резюме на HH.ru, слоп-музыка в Яндексе и Спотифае, слоп-подкасты с нейроголосами. Слоп, слоп, слоп. Везде один сплошной слоп.
Ещё до появления генеративного ИИ кино и сериалы превратились в несмотрибельный шлак. Стриминговые сервисы вроде Netflix убили рынок DVD. Из-за смерти DVD умерло качественное кино: если раньше качественному фильму можно было провалиться в прокате, но окупиться через продажу DVD-дисков, то теперь продюсеры не идут на риск финансирования интересных фильмов, потому что стриминг не сможет окупить затраты при провале фильма в кинотеатрах. Вспомните начало 2000-ых, каждый год выходило множество великолепных фильмов: “Властелин колец”, “Гарри Поттер”, “Троя”, “Шрек”, “Человек-паук”, приквелы “Звёздных войн”, многое другое. Сейчас в кино не выходит почти ничего кроме многократно переваренных ремейков, представляющих собой фансервисный набор бессвязных кадров.
Современные режиссёры разучились следовать элементарным канонам развития сюжета — настолько, что “Конан-варвар” со Шварцнеггером в главной роли по сравнению с современными поделками выглядит как шедевр. Говорят, что в старых фильмах с каждым годом актёры играют всё лучше и лучше. Я думаю, это связано с тем, что актёры XX века выросли в реальном мире — они могли повидать и войну, и голод, и разных людей, и человеческие трагедии, поэтому и играли так, что им верится. А актёры XXI века не видели ничего кроме своей актёрской школы в уютном мегаполисе, они никогда не видели жизни, и поэтому их “игре” нечего сказать кроме станиславскоговского “Не верю!”. Во многих современных сериалах на Нетфликсе персонажи проговаривают свои действия словами, чтобы сериал можно было смотреть на фоне, а всё происходящее на экране располагается строго по центру кадра, чтобы фильм было удобнее нарезать на тиктоки. Смотреть это пребывая в сознании почти невозможно.
Слоп ломает всё
Созданные людьми и для людей системы попросту не рассчитаны на DDOS-атаку потоком слопа. Например, раньше умение связно излагать свои мысли в виде текста было экспресс-тестом на интеллект и понимание темы. Это использовалось в образовании, ведении дискуссий и много где ещё. Сейчас я слышу от преподавателей из России и из США, что школьники и студенты делают домашние работы и пишут эссе с помощью нейросетей, а учителя проверяют эти работы тоже с помощью ИИ. Получается абсурдный симулякр — ИИ читает им же написанное, а люди своим сознанием вообще не участвуют в происходящем процессе “образования”.
То же самое происходит и с процессом поиска работы: кандидаты подаются на вакансии с помощью ИИ, подгоняющего или даже сочиняющего резюме под текст вакансии, а HR-ам через десять минут после открытия вакансии прилетают тысячи сгенерированных резюме с почти идеальным соответствием вакансии, через что невозможно продраться до реальных, живых кандидатов. Даже системы автоматического оценивания уже не работают, ведь все резюме идеально подогнаны под текст вакансии. Компании заставляют кандидатов проходить собеседования с ИИ-агентами, на что кандидаты отвечают уже своими ИИ-агентами. Процесс превращается в симулякр — ИИ разговаривает с ИИ. Система найма разрушается.
Типичная ситуация на современном собеседовании
Кажется, что единственное реальное решение для образования, собеседований на работу и подобных вещей — это полный уход из онлайна в оффлайн. Ведь онлайн уже полностью захвачен ИИ-шлаком. В моём телеграм-канале в комментарии регулярно приходят ИИ-боты, отвечающие на пост связным текстом с рекламной ссылкой, прямо как я только что сделал это в этом предложении. В социальных сетях ИИ-дипфейки поджаривают людям мозги через фейковые видео и фейковые новости. Маркетологи, ещё до эпохи ИИ убившие своей спам-рекламой многие системы коммуникации вроде электронной почты и обычной физической почты, с появлением ИИ смогли начать спамить ещё больше, и их спам почти неотличимо мимикрирует под нормальный контент. Внедрение генерации слоп-кода в процессы разработки софта уже спустя всего год приводит к первым массовым сбоям систем, которые становится всё труднее и труднее восстанавливать.
Слоп вскоре может разрушить общую культурную среду, ведь потребление контента имеет не только личный, но и социальный аспект: если предыдущие поколения могли иметь некие общие для всех культурные коды, например, все дети определённого поколения смотрели советский мультик про Винни-Пуха или почти все мальчики определённого поколения играли в Counter Strike 1.6, то у будущих поколений из-за обилия слоп-контента может просто не оказаться общего культурного бэкграунда. Никто сейчас и представить не может к каким негативным последствиям это приведёт.
Движения против технологий
Реакция на технологические изменения — не новое явление. Впервые движения против необдуманного внедрения новых технологий начали появляться уже в XIX веке. Отличным примером такого движения могут служить общины амишей в Америке. Амиши не используют электричество и телефоны, потому что эти технологии позволяют людям строить крупные поселения и жить вдалеке друг от друга, а это неизбежно уничтожает семейные и социальные связи. И в этом амиши абсолютно правы. Посмотрите на нас, у нас нет крепких широких семей с бабушками, дедушками, дядями и тётями, кузенами и кузинами. Да и даже институт нуклеарной семьи терпит кризис — большинство браков распадается, а дети растут без отцов.
Другим примером движения против технологического ускорения может служить так называемое медленное движение. Медленное движение развилось из идеи “slowfood”, созданной в противовес распространённой идеологии питания “fastfood” — движение медленной еды поддерживает культуру традиционного застолья и национальную кухню страны. В рамках медленного движения развиваются идеи медленного города, в котором пусть и производится меньше ВВП, но в котором приятно жить, медленной моды с качественными долговечными вещами вместо одноразовых футболок, медленного вдумчивого чтения, медленного садоводства и так далее.
Противоположной медленному движению логики придерживается акселерационизм. Согласно философии акселерационизма, нужно не противостоять технологическим изменениям и ускорению жизни, а наоборот всеми силами пытаться ускорить это развитие, чтобы заложенные в систему капитализма и бесконтрольного технологического развития внутренние противоречия как можно быстрее разорвали её изнутри. А после этого уже можно вдумчиво заниматься медленными вещами.
Жизнь в качестве и смерть в количестве
В книге “Царство количества и знамения времени” французский философ Рене Генон пишет, что ориентация на количественные показатели неизбежно приводит к падению качества. Представьте себе такую ситуацию: в некотором городке было десять булочных, в которых пекли хлеб и булочки. Запах свежей выпечки разносился из окон булочных и задавал настроение окружающим улицам. Однажды все десять булочных скупила одна компания, и директор этой компании решил оптимизировать затраты и вынес процесс выпечки в отдельное помещение на краю города, из которого выпечка машинами развозится по всем десяти точкам продажи. С количественной точки зрения была проведена разумная финансовая оптимизация, но с качественной точки зрения с улиц пропал запах свежей выпечки, из-за чего исчез кусочек городской души. Сэкономленная копейка на одном, сэкономленная на другом, и вот в городе не остаётся души вообще, люди впадают в депрессию, но даже не могут понять из-за чего.
Процитирую отрывок из своей недавней заметки:
Недавно в журнале “Моноклер” я прочитал статью про китайского философа Чжуан-цзы и узнал из неё, что его знаменитая философия бесполезности, как раз лёгшая в основу даосской ментальности, родилась как антитеза к учению моистов — последователей другого китайского философа того времени по имени Мо-цзы. Моисты считали, что самое важное в жизни — максимизация полезности своих действий для экономики.
*Вместо похорон, насыщенных традиционными ритуалами, такими как погребение в трехслойных гробах и многолетний траур, моисты рекомендовали просто выкопать яму, достаточно глубокую для того, чтобы тело не пахло. Разрешалось плакать по дороге к месту погребения и обратно, но затем нужно было возвращаться к работе и жизни. *
Хотя моисты писали более двух тысяч лет назад, их идеи звучат знакомо для современного человека. Мы часто слышим, как нам следует избегать якобы бесполезных вещей, таких как занятия искусством или гуманитарное образование (вспомним слишком частое сокращение бюджетов на гуманитарные науки в университетах). Или часто говорят, что мы должны использовать эти вещи только в той мере, в какой они приносят пользу экономике или благосостоянию людей.
Интересно как от века к веку, от тысячелетия к тысячелетию люди приходят к одним и тем же архетипическим ценностным установкам. Сразу приходят на ум многочисленные современные мемы на тему “цель моей жизни — увеличивать shareholder value для акционеров моей корпорации”. Такая ориентированная на эффективность ради эффективности материалистично-утилитаристская логика приводит людей к полному выгоранию и гибели души.
В логическом конце моистского подхода к жизни находятся идеи полного замещения человека роботами и искусственным интеллектом. Если мы делаем идолом эффективность и ставим её на пьедестал своих жизненных приоритетов, то в конце нас ждёт мир, где человека попросту нет. Получив из рук дьявола фаустианскую власть над природой, человек как всегда поленился прочитать мелкий шрифт в документе о продаже своей души — изначальный план Мефистофеля как раз и заключался в полном избавлении от контрагента сделки. ВВП на душу населения растёт, а никакой души у этого самого населения в собственности уже и не осталось…
В эссе “Живое и мёртвое” испанский философ Хосе Ортега-и-Гассет описывает похожую концепцию. Мёртвое по форме повторяет живое, но не имеет души. Представьте себе тёплый семейный праздник, устроенный родителями для своих детей, и похожий праздник, устроенный для галочки бюрократами из администрации района для его жителей. По форме праздники могут быть одинаковыми, но на одном из них будет кипеть жизнь, а другой будет полностью бездушен и мёртв, даже если он лучше организован и профинансирован.
Манифест против ИИ-шлака
Каждый человек может решить для самого себя, хочет ли он жить в полном ИИ-шлака киберпанке или в живом и качественном мире. Для этого нужно всего-лишь принять для себя несколько путеводных утверждений:
-
Необходимо ориентироваться на качество, а не на количество
-
Необходимо стремиться к живому, а не к мёртвому
Главная задача для людей сейчас — не внедрять ИИ куда угодно, а выстроить процессы по защите от ИИ-шлака. Вероятно, в недалёком будущем мы увидим постепенную смерть онлайна, уход в оффлайн, акцент на формировании живых сообществ, воскрешение похороненного Роланом Бартом в его знаменитом философском эссе автора и появление канонов качественной литературы, качественного кино, качественных видеоигр, качественной одежды, и так далее. Это не означает полного отказа от использования ИИ, но предполагает его осознанное использование.
Можно добавить к нашему манифесту пару дополнительных пунктов.
-
Необходимо составлять каноны качественного контента
-
Оффлайн приоритетнее онлайна
-
Живое сообщество важнее безликого контента
-
Сообщество формируется вокруг яркой личности
Так победим!
Источник: habr.com