Когда ИИ ведет себя с людьми несправедливо, они злятся на него почти так же, как на живого человека, и столь же охотно его «наказывают». Но позволяет ли такой подход ощутить торжество справедливости — большой вопрос.
Серия экспериментов международной группы ученых показала: мы готовы мстить искусственному интеллекту, но удовлетворение от такой мести оказывается не всегда таким же, как в случае с человеком. При этом многое зависит от того, как сама система реагирует на «наказание».
По мере того как именно алгоритмы все чаще решают, кого принять на работу, кому выдать кредит или как распределить медицинские ресурсы, психологов интересует, как мы воспринимаем такие системы и их решения. Ученые опираются на идею «восприятия разума»: мы оцениваем, есть ли у системы ИИ способность действовать намеренно (агентность) и способна ли она что‑то чувствовать — боль, страх, вину. Взрослый человек совмещает оба качества, поэтому его можно считать сознательным нарушителем норм морали и сделать объектом наказания. ИИ все усложняет: его воспринимают как нечто, достаточно «умное», чтобы нанести вред, но практически неспособное при этом испытывать боль или раскаяние.
Авторы работы, Александр Энг из Asia School of Business в Куала-Лумпуре и Кай Чи Ям из Национального университета Сингапура, решили выяснить, как люди эмоционально и поведенчески реагируют, когда наказывают ИИ, поступивший, по их мнению, несправедливо. «Исследования наказания обычно предполагают, что всякий, кто способен совершить проступок, может и быть наказан, — отмечает Энг. — Машины разрывают эту связь: мы считаем, что ИИ может принимать вредные решения, но не может чувствовать боль или извлекать пользу из полученных уроков».
Источник: hi-tech.mail.ru