NeFut Logo NeFut
EN 管理员登录

[AI学术] 大语言模型情感心理物理学

发布于:2026-11-03 22:00 最后更新:2026-11-05 00:45
#Machine Learning #LLM #Artificial Intelligence

在许多重要决策中,需要预估结果的情感体验。随着大语言模型(LLM)逐渐被嵌入决策流程,然而它们如何将结果映射到情感以及是否会在选择中利用这种映射仍不清楚。我们设计了两类实验:一是让模型单独评估赌博或股票交易的收益与损失的感受强度,二是让模型在同一情境下同时比较多种结果并据此做出选择。\n\n在单独评估时,模型的评分随数额增大呈递减敏感性,类似人类的价值函数。但与人类的损失规避相反,模型对等额收益的感受强度高于等额损失,这一现象我们称为“硅基收益放大”。当模型被要求同时评估多种结果时,评分趋于线性,直接比较削弱了上述不对称。\n\n在选择任务中,收益‑损失的不对称基本消失,模型的自我评分并未比传统的货币效用更好地解释其决策。结果表明,LLM 对结果的情感映射是可塑的,且在实际决策中并未必然发挥作用,这引发了关于是否以及如何让具备代理性的 LLM 将预期情感纳入决策的伦理与技术争论。\n\n点评:本文揭示了 LLM 在情感评估上的非人类偏差及其在选择中的有限影响,为未来在安全、可解释的 AI 决策系统中引入情感因素提供了实验依据。

原文链接: https://arxiv.org/abs/2610.40985

[h] 返回首页