NeFut Logo NeFut
EN 管理员登录

[AI学术] 上下文先验下神经解码的置信度排序逆转

发布于:2026-10-08 22:00 最后更新:2026-10-12 00:49
#Machine Learning #Neural

本文研究了在 MEG‑MASC 与 MOUS 语音检索任务中,上下文先验(通过加性浅层融合)对局部解码分数的影响以及由此产生的置信度排序逆转现象。我们使用局部解码分数、融合后的前两名分差(top‑two margin)作为置信度指标。

在最初错误的预测中,出现了置信度排序逆转:当正确候选在局部排名靠前(如第 2‑3 位)时,较大的分差更有可能导致修正(repair);而当正确候选起始排名较低(如第 21‑50 位)时,较大的分差反而降低修正概率。具体表现为:在 MEG‑MASC 数据上,整体正确率的 AUROC 为 $0.87$,但在初始排名 $2\sim3$ 时区分修正与残余错误的 AUROC 为 $0.70$,而在排名 $21\sim50$ 时跌至 $0.39$。排名超过 $20$ 的错误占融合后错误的 $46.6\%$。

我们提出的 分数层面解释 为:修正必须先弥补正确候选的初始劣势,这限制了最终的分差;而残余错误可以在两个错误候选之间形成较大的分差。通过仅调节融合权重的因果干预实验验证了该解释:权重增大后,逆转现象向更深的排名移动,且在词级语言模型先验下,随着准确率提升,逆转仍会继续移动,说明仅以准确率为依据选择权重并不能稳定置信度。

进一步的实验表明,分别读取局部分数和先验分数 能显著提升选择性解码的效果:解码器在 $74.5\%$ 的窗口内给出答案(相较 $56.7\%$),且 $92\%$ 的输出集合仍包含正确候选。

结论:在上下文融合后,置信度应保留局部与上下文证据的完整信息,而非仅依赖融合后的单一分数。项目网站与代码已公开,供进一步研究使用。

点评

原文链接: https://arxiv.org/abs/2610.08229

[h] 返回首页