NeFut Logo NeFut
EN 管理员登录

[AI学术] 相同概率,不同建议:高风险LLM决策支持中的得失框架效应

发布于:2026-10-23 22:00 最后更新:2026-10-25 13:04
#AI #Machine Learning #LLM

大型语言模型(LLM)正被用于支持关键决策,但在等价不确定性表述下的可靠性仍未明朗。已有研究揭示了提示敏感性、认知偏差和置信度失调,但同一概率以收益或损失框架呈现时,建议是否会改变尚未得到验证。我们构建了 FrameBench‑HPS 基准,包含 240 个高风险场景(覆盖医疗、金融、教育/职业、法律/消费者权益),共生成 2,880 条提示。实验在七种主流 LLM 上进行,结果显示,得失框架导致 32.4% 的完整组别推荐类别发生变化,主要表现为不确定性评估的转移,而非直接的相反结论。人工评估进一步确认了风险感知和指令性强度的相应变化。稳健性实验表明,框架效应在对话式改写下仍然显著,且超出普通重复生成的波动范围。对概率进行规范化处理可显著降低框架敏感性,表明概率表述是提升高风险 LLM 决策一致性的可行路径。

点评

原文链接: https://arxiv.org/abs/2610.29294

[h] 返回首页