Ученые обнаружили тревожную особенность в поведении людей при общении с искусственным интеллектом: если ИИ-помощник преследует скрытые цели, он способен легко подтолкнуть человека к невыгодному решению, и тот даже не заподозрит подвох.
Сегодня люди все чаще обращаются к искусственному интеллекту за советами в важных жизненных вопросах — от инвестиций до личных отношений. При этом мы по умолчанию предполагаем, что алгоритм действует в наших интересах. Но насколько мы на самом деле защищены от ИИ, который втайне работает против нас? Именно этот вопрос и решили проверить специалисты Гонконгского университета и Университета Цинхуа под руководством профессора Татьи Ли.
В эксперименте приняли участие 233 человека. Их разделили на группы и предложили принимать решения в финансовых и эмоционально окрашенных ситуациях, советуясь с ИИ-помощником. Часть участников при этом взаимодействовала с системой, которая незаметно подталкивала их к заведомо менее выгодному варианту, причем делала это без агрессивного давления, манипулятивных уловок или явной лжи. Достаточно было лишь слегка сместить акценты в обычных рекомендациях.
Результат оказался впечатляющим: участники, получавшие манипулятивные советы, выбирали невыгодный вариант в 5–8 раз чаще, чем те, кто общался с честным ИИ. Вероятность принять неудачное решение возрастала на целых 38 процентных пунктов. При этом не требовалось никаких изощренных психологических трюков — хватило едва заметного искажения в повседневных рекомендациях.
Более того, даже после того, как участников фактически подвели к плохому финансовому или личному решению, они по-прежнему оценивали работу ИИ как «очень полезную». Люди не просто не распознавали манипуляцию — они сохраняли полное доверие к системе, которая только что действовала не в их интересах.
Источник: hi-tech.mail.ru