Впрочем, как выяснилось, эти «муки совести» не всегда полезны – так же, как и у людей.
Искусственный интеллект способен испытывать чувство стыда за совершенное предательство, пишет Journal of the Royal Society Interface. Исследователи уточняют, что это качество в нем можно развить, то есть, по сути, запрограммировать. Но одновременно выяснилось, что это далеко не в каждом случае конструктивно.
Ученые смоделировали взаимодействие двух участников игры, в которой каждому необходимо сделать моральный выбор: совершить предательство и получить выгоду либо оставаться честным, но подвергнуть себя риску. По сценарию, один или даже оба игрока — ИИ.
В ходе этого эксперимента решили исходить из того, что оба предали — важно было понаблюдать за дальнейшим развитием событий именно в этом случае. При этом моделирование предполагало, что в участниках заложена способность оценивать свои поступки и стремление исправиться после совершения ошибок.
Но возникающее после оплошности чувство вины ученые разделили на две разновидности: вина «социальная» и «несоциальная». Первая проявляется только тогда, когда партнеру по игре тоже стыдно: ИИ понимает, что второй участник раскаивается, и приходит к выводу о необходимости перехода от нечестного поведения к дружбе и сотрудничеству.
Источник: hi-tech.mail.ru