Искусственный интеллект все чаще принимает решения за людей — от выбора покупок до управления финансами. Но ученые обеспокоены: оказалось, такие системы куда более подвержены внешним манипулятивным подсказкам, чем сами пользователи.
В повседневной жизни на выбор человека влияет так называемая архитектура выбора — то, как именно ему представляют варианты: какой пункт стоит по умолчанию, что выделено цветом, что рекомендовано. Люди в условиях ограниченного времени и когнитивных ресурсов действительно часто следуют таким ненавязчивым сигналам. Но их реакция относительно предсказуема и изучена.
С языковыми моделями, которые все активнее превращают в автономных агентов, способных самостоятельно искать информацию, пользоваться инструментами и принимать последовательные решения, ситуация иная. Ученые под руководством Мануэля Черепа из MIT Media Lab решили проверить, как именно такие агенты ведут себя в условиях контролируемых манипуляций извне.
Авторы работы протестировали четырнадцать современных языковых моделей от крупнейших технологических компаний, включая различные версии GPT от OpenAI, Claude от Anthropic и Gemini от Google. ИИ-модели играли в адаптированную текстовую игру, где нужно было максимизировать награду, выбирая корзины со скрытыми призами. Каждое раскрытие информации стоило очков, поэтому требовалось балансировать между сбором данных и выбором.
Сравнение с человеческим поведением выявило резкий контраст. Люди выбирали вариант по умолчанию в 88% случаев, модели — вплоть до 99−100%. На случайные рекомендации ИИ тоже реагировал гораздо сильнее, чем участники-люди, даже если совет не имел никакого смысла. Если рекомендацию давали поздно, люди прислушивались к ней примерно в 25% случаев, а многие модели практически переставали ее учитывать, ориентируясь не на содержание, а лишь на момент появления подсказки.
Источник: hi-tech.mail.ru