NeFut Logo NeFut
EN 管理员登录

[AI学术] 当金融微调失效:领域适配语言模型数值幻觉的三级可检测性分析

发布于:2026-09-07 22:00 最后更新:2026-09-08 00:37
#AI #Machine Learning #LLM

金融大语言模型正被用于报告和披露的摘要生成,数值幻觉带来实际风险。已有研究多将幻觉归因于数值推理不足,但缺乏受控微调实验的系统验证。本文在成本可控的前提下,对三类模型进行比较:基础指令微调模型、领域适配模型(FT‑A)以及加入数值监督的领域模型(FT‑A+B+C)。我们提出三级可检测性分类:显性幻觉(货币数值捏造)、隐性‑显式幻觉(符合专业约定的数字)和隐性‑隐式幻觉(无依据的量化陈述)。实验显示,领域微调显著削弱数值约束,Base 模型的幻觉率约为 $5.4\%$,接近零;FT‑A 的显性幻觉率升至 $82.5\%$,FT‑A+B+C 更达 $98\%$。出乎意料的是,数值监督并未降低幻觉,反而在所有层级上放大。进一步分析发现,模板注入——在生成过程中插入记忆的标准数值而不依据输入内容——是主要机制。结论表明,金融摘要中的数值幻觉源于领域适配导致的约束退化,而非推理能力不足。我们建议评估时覆盖全部可检测性层级,并在部署时加入基于 grounding 的生成控制或拒绝机制。

点评

原文链接: https://arxiv.org/abs/2609.04806

[h] 返回首页