Российские ученые выяснили, что сильные эмоции, такие как гнев, могут существенно влиять на решения, принимаемые нейросетями, включая самые современные языковые модели. Это открытие было сделано в ходе исследования, проведенного Институтом искусственного интеллекта AIRI, а также специалистами из Лаборатории искусственного интеллекта Сбера и Института системного программирования РАН.
Ученые проследили, как эмоции, присутствующие в данных для обучения, влияют на работу крупных и популярных моделей. Анализ показал, что даже самые продвинутые системы ИИ могут принимать необъективные решения, если обучались на данных с эмоциональной составляющей. Особенно это проявляется в экономических играх, таких как «Диктатор» и «Дилемма заключенного».
Ученые также обнаружили, что сильные эмоции, такие как гнев или страх, могут изменить поведение нейросетей, снижая их готовность к сотрудничеству в кооперативных играх или делая их решения непредсказуемыми в этических дилеммах.
Источник: www.ferra.ru
Похожие новости:
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
Гиперперсонализация: как сделать предложение пользователю релевантным
ASUS объявляет о стратегии внедрения искусственного интеллекта, ноутбуки Copilot+ и решения для создателей контента на выставке Computex 2024
«Количество желающих повышать квалификацию в больших компаниях меньше, чем среди предпринимателей»