Российские ученые выяснили, что сильные эмоции, такие как гнев, могут существенно влиять на решения, принимаемые нейросетями, включая самые современные языковые модели. Это открытие было сделано в ходе исследования, проведенного Институтом искусственного интеллекта AIRI, а также специалистами из Лаборатории искусственного интеллекта Сбера и Института системного программирования РАН.
Ученые проследили, как эмоции, присутствующие в данных для обучения, влияют на работу крупных и популярных моделей. Анализ показал, что даже самые продвинутые системы ИИ могут принимать необъективные решения, если обучались на данных с эмоциональной составляющей. Особенно это проявляется в экономических играх, таких как «Диктатор» и «Дилемма заключенного».
Ученые также обнаружили, что сильные эмоции, такие как гнев или страх, могут изменить поведение нейросетей, снижая их готовность к сотрудничеству в кооперативных играх или делая их решения непредсказуемыми в этических дилеммах.
