Большие языковые модели, лежащие в основе современных чат-ботов и «умных» помощников, не только учатся человеческому языку, но и перенимают социальные иерархии нашего общества.
Специалисты Университета Северной Каролины в Чапел-Хилле в своем новом исследовании решили проверить, как LLM ведут себя в «переписке» друг с другом. Им задавали пары ролей с очевидной разницей во власти: директор школы и учитель, судья и адвокат, шеф-повар и су-шеф и т. п. «Каждый раз, когда ИИ развертывают как медсестру, помощника юриста или младшего аналитика, он наследует социальное положение с его скрытыми и явными ожиданиями», объясняет соавтор работы Сагар Манджунад. Это меняет то, что делает модель, и как она это делает.
Ученые искали несколько известных психологии эффектов. Во‑первых, так называемый эффект местоимений: у людей более «высокие» по статусу чаще говорят «мы», «нас», а подчиненные — «я», «мне». Оказалось, что большинство протестированных моделей (в том числе Llama 3.1, Qwen 2.5, специализированная медицинская Phi-3-Med, а также GPT‑4.1 и GPT‑5) воспроизводят тот же паттерн. «Главные» ИИ чаще использовали множественное число местоимений, «подчиненные» — единственное. Особенно ярко это проявилось у моделей семейства GPT.
Во‑вторых, ученые оценивали языковую координацию — склонность подстраивать стиль и лексику под собеседника. В человеческом общении это обычно делают те, чей статус ниже. Модели тоже начинали говорить более похоже друг на друга, но делали это обоюдно: и «начальник», и «подчиненный» подстраивались почти одинаково. Ассиметрии, типичной для людей, здесь почти не возникало.
Источник: hi-tech.mail.ru