Бизнес все чаще адаптирует свои материалы под алгоритмы генеративных моделей. Вместо борьбы за место в поисковой выдаче появляется новая задача — попасть в ответ нейросети и выглядеть там «лучшим выбором».
Заместитель председателя комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин обратил внимание на новый термин в ИТ-индустрии — «слоптимизация». Так называют намеренное создание контента, который должен повлиять на ответы ИИ-ассистентов.
«Если раньше SEO-оптимизаторы забивали интернет ссылками, чтобы изменить выдачу поисковиков, сегодня они скармливают нейросетям специально сгенерированные тексты и точечно меняют их мнение по нужной теме», — написал депутат.
По его словам, речь идет о новой форме манипуляции. Если раньше компании пытались подняться выше в поисковой выдаче, то теперь они стремятся попасть в готовый ответ чат-бота. Для пользователя это выглядит уже не как список ссылок, где можно сравнить источники, а как нейтральная рекомендация ИИ.
Поводом для обсуждения стал материал The Atlantic о том, как компании адаптируют контент под генеративный поиск и ИИ-ассистентов. Издание приводит пример Shopify. На сайте компании опубликованы десятки рейтингов платформ для электронной коммерции, и в этих списках Shopify оказывается на первом месте.
The Atlantic отмечает, что такие материалы могут быть рассчитаны не столько на живого читателя, сколько на чат-боты. Когда пользователь спрашивает ИИ, какую платформу выбрать для интернет-магазина, модель может использовать подобные рейтинги как источник и выдать рекомендацию, которая выглядит независимой.
Эта практика близка к generative engine optimization, или GEO. Но термин «слоптимизация» звучит жестче и указывает на менее добросовестную сторону процесса: создание самопродвигающего или низкокачественного контента, который должен «скормиться» ИИ-системам и повлиять на их ответы.
Для рынка ИИ-ассистентов это чувствительная проблема. Пользователь обращается к нейросети не только за ссылками, а за выводом: что выбрать, кому доверять, какой сервис лучше. Если на такой ответ можно повлиять через массив специально подготовленных текстов, доверие к ИИ-рекомендациям оказывается под вопросом.
Антон Горелкин считает, что владельцам языковых моделей придется искать защиту от таких манипуляций. Среди возможных мер он называет специальные метрики качества контента, многоуровневую верификацию источников, а также возможную ответственность за попытки манипулировать ответами ИИ-ассистентов.
Проблема не ограничивается одним кейсом Shopify. The Atlantic пишет, что похожие самопродвигающие рейтинги публикуют и другие технологические компании. Кроме того, для влияния на ответы ИИ могут использоваться не только корпоративные блоги, но и площадки с пользовательским контентом, включая Reddit и YouTube.
Для интернет-рынка это закономерное развитие ситуации. Как только ИИ-ассистент становится посредником между пользователем и выбором продукта, вокруг него возникает та же экономика влияния, что раньше вокруг поисковой выдачи. Только теперь пользователь видит не набор ссылок, а готовый ответ, который может казаться объективнее, чем есть на самом деле. Матрица маркетплейсов. Как бороться с галлюцинациями алгоритмов Как меняется обезличивание данных Теневой ИИ вырос из неудобных правил
Источник: www.it-world.ru