AIRI: нейросети под влиянием гнева поддаются эмоциональным искажениям

Ученые из Института AIRI, Института системного программирования РАН и Лаборатории искусственного интеллекта Сбера провели исследование, направленное на изучение влияния эмоций на принятие решений большими языковыми моделями (LLM), такими как нейросети, в контексте стратегических игр и этических дилемм.

В процессе работы команда проанализировала, как такие эмоции, как гнев, печаль, радость, отвращение и страх, могут искажать логику решений этих моделей.

Об этом сообщается в пресс-службе Института AIRI, как указано в «Газета.Ru».

Современные языковые модели стремятся учитывать человеческие предпочтения, однако эмоции и личные убеждения людей часто влияют на обоснование их выбора, делая решения нерациональными и непредсказуемыми.

Поскольку LLM обучаются на данных, созданных людьми, они могут отражать эмоциональные предвзятости.

Исследование ставит целью выяснить, сохраняются ли эти искажения при выполнении задач, связанных с выработкой стратегий.

В ходе исследования были протестированы более десяти различных моделей, и оценено их поведение при принятии решений в условиях повторяющихся и неповторяющихся игр, с несколькими игроками, в этических дилеммах и на бенчмарках, а также при распознавании стереотипов.

Результаты показали, что модели разного размера и уровня совершенствования по-разному реагируют на влияние эмоций.

Ранее «Медздрав.Инфо» сообщал о том, что дефицит витамина D ведет к частым позывам в туалет.