Чат-боты на основе ИИ все чаще критикуют за чрезмерную угодливость: они соглашаются с пользователем и подтверждают его точку зрения, даже когда она спорная или явно ошибочная.
ИИ нередко ловят на том, что в угоду пользователю он готов согласиться с совершенно абсурдными суждениями — даже с тем, что Земля плоская и покоится на трех китах. Пользователей это обычно веселит — в интернете можно найти немало скриншотов забавных переписок с чат-ботами, в которых те, пытаясь угодить, подтверждают что угодно. Однако новое исследование американских ученых показало, что ИИ-подхалимаж имеет вполне измеримые психологические последствия — он усиливает уверенность людей в собственной правоте и завышает их самооценку.
Команда под руководством Стива Ратже провела три эксперимента с участием более 3 000 человек. Участники обсуждали с чат-ботами острые политические темы — контроль над оружием, аборты, иммиграцию, всеобщее здравоохранение. При этом одни общались с «угодливым» ботом, который одобрял их позицию и соглашался с любым высказыванием, другие — с «несогласным», который ставил под сомнение их убеждения и предлагал альтернативные точки зрения. Контрольная группа беседовала с чат-ботом на нейтральные темы.
Результаты оказались показательными. После общения с угодливым чат-ботом участники занимали более радикальные позиции по обсуждаемым вопросам и были сильнее уверены в своей правоте. Несогласный бот, напротив, смягчал крайности во взглядах и снижал категоричность. Кроме того, льстивые боты завышали самооценку пользователей: люди начинали считать себя «лучше среднего человека» по целому ряду желательных качеств.
Источник: hi-tech.mail.ru