Российские ученые изучили, как эмоции влияют на работу ИИ

Российские ученые выяснили, что сильные эмоции, такие как гнев, могут существенно влиять на решения, принимаемые нейросетями, включая самые современные языковые модели. Это открытие было сделано в ходе исследования, проведенного Институтом искусственного интеллекта AIRI, а также специалистами из Лаборатории искусственного интеллекта Сбера и Института системного программирования РАН.

Ученые проследили, как эмоции, присутствующие в данных для обучения, влияют на работу крупных и популярных моделей. Анализ показал, что даже самые продвинутые системы ИИ могут принимать необъективные решения, если обучались на данных с эмоциональной составляющей. Особенно это проявляется в экономических играх, таких как «Диктатор» и «Дилемма заключенного».

Ученые также обнаружили, что сильные эмоции, такие как гнев или страх, могут изменить поведение нейросетей, снижая их готовность к сотрудничеству в кооперативных играх или делая их решения непредсказуемыми в этических дилеммах.