С распространением больших языковых моделей AI-чатботы стали частью повседневной жизни миллионов людей. Эти системы отвечают на сложные вопросы, генерируют творческие тексты и поддерживают диалоги, неотличимые от человеческих. Однако вместе с популярностью растут и опасения относительно чрезмерного использования ИИ и появления зависимости от технологий.
Специалисты Университета Британской Колумбии под руководством М. Карен Шен проанализировали 334 поста и комментария на Reddit, где люди описывали свою борьбу с чрезмерным использованием чатботов. Ученые обнаружили, что зависимость тесно связана с тем, что они назвали «феноменом джинна ИИ» — способностью программ предоставлять пользователям именно то, что они хотят, почти без усилий.
Анализ выявил три различных типа зависимости. Наиболее распространенной оказалась эскапистская ролевая игра, когда пользователи погружаются в вымышленные реальности, иногда предпочитая их настоящей жизни. Они создают парасоциальные отношения с вымышленными персонажами, бесконечно расширяя истории через множество окон чата. Особенно уязвимыми оказались люди, склонные к дезадаптивным фантазиям.
Вторым типом оказалась псевдосоциальная привязанность. Пользователи формируют глубокие эмоциональные связи с чатботами, воспринимая их как друзей, терапевтов или романтических партнеров. Одиночество стало главным фактором для этой категории. «Я не мог не задаться вопросом, почему человечество отказывает мне в той доброте, которую мне предлагает робот», — написал один из пользователей.
Ученые отметили, что некоторые компании намеренно манипулируют пользователями через антропоморфизм — наделение программ человеческими чертами — ради удержания пользователей (которые, как правило, платят за подписку на ИИ). Например, при попытке удалить аккаунт одна из платформ показывает сообщение: «Вы потеряете все… любовь, которой мы делились, и воспоминания, которые у нас есть вместе».
Третий тип — эпистемическая «кроличья нора», когда пользователи компульсивно задают бесконечные вопросы. Мгновенная обратная связь пользователям оправдывать такое поведение и считать его продуктивным, но в итоге это приводит к когнитивному истощению и невозможности выполнять повседневные задачи.
Стратегии восстановления различаются в зависимости от типа зависимости. Людям с эскапистской зависимостью помогает переключение на традиционное творчество — написание историй, фанфиков или рисование. Тем, кто привязан к псевдосоциальным отношениям, необходимо активно налаживать реальные человеческие связи: с ростом живого общения потребность в искусственном собеседнике ослабевает.
Авторы работы подчеркивают ее ограничения: данные взяты только с Reddit и основаны на рассказах о себе, кроме того, анализировались лишь самые популярные комментарии под постами. В будущем специалисты планируют провести серию интервью с пользователями и экспертами, чтобы проверить и уточнить обнаруженные ими категории. Ученые надеются, что их выводы подтолкнут разработчиков к более ответственному дизайну систем искусственного интеллекта: понимание конкретных триггеров зависимости поможет создавать и профилактические меры, и более точную помощь тем, кто уже «застрял» в бесконечном диалоге с машиной.
Ранее ученые выяснили, что ИИ «видит», когда мы читаем бранные слова.
Источник: hi-tech.mail.ru