NeFut Logo NeFut
EN 管理员登录

[AI学术] 联合建模大语言模型的偏好与非完美决策

发布于:2026-10-27 22:00 最后更新:2026-10-29 00:58
#AI #Machine Learning #LLM

本文探讨大语言模型(LLM)在标准偏好测量任务中表现的偏好是否能够预测其在更复杂情境下的策略行为。LLM 代理在与人类或其他 AI 系统交互时会面临个人福利、群体福利和环境影响等可能冲突的目标。已有研究多通过行为经济学实验或博弈任务单独测量偏好,却少有跨情境的一致性检验,也缺乏将多目标共同作用于行为的统一模型。为此我们借鉴效用理论,提出偏好‑行为模型(PBM),该模型在偏好表示层之上加入不完美效用最大化的机制,并将参数估计表述为逆博弈问题,即从观察到的选择中同时推断偏好向量和行为噪声。我们在三类社会困境——公共物品博弈、集体风险困境和公共池资源博弈——中进行实验。结果显示,传统行为经济学工具得到的偏好在这些困境中的预测能力不稳定,而在一种困境中拟合的 PBM 参数能够在其他困境中保持一定的预测力,说明模型捕捉到了 LLM 决策的核心因素。进一步,我们将推断出的偏好与模型的 persona 指令进行对比,发现整体上两者方向一致,但在不同维度、不同模型和不同游戏之间存在细微差异。本文提供了一套系统方法,用于评估 LLM 偏好的一致性、对齐程度以及标准测量可能遗漏的行为模式。

点评

原文链接: https://arxiv.org/abs/2610.33651

[h] 返回首页