检索增强语言模型会同时利用检索到的上下文和自身的知识进行回答。当上下文不完整或错误时,两者会产生冲突。现有方法在设计时固定一条规则来解决冲突:始终遵循上下文、根据上下文对模型的影响程度放大上下文,或完全信任模型记忆。每条规则在某些部署环境下必然失效。决策理论模型表明,任何固定规则的得分随可靠上下文比例线性增长,而最佳可达得分是凸函数,因而在规则不恰好最优的情况下必被超越;两源之间的对称散度(信号自适应解码使用的)并不提供哪一方正确的信息。要解决冲突,需要两类现有方法未保留的输入:对每个来源的独立证据,以及上下文正确的先验概率。我们在 GRACE 基准上验证这些观点,该基准对固定问题的知识图谱上下文进行干预,分别测量模型已知、上下文陈述和真实答案。实验显示,四类基线在正确上下文或错误上下文上表现强,但从未在两者上同时优秀。于是我们构建了两项输入:模型将知识以笔记形式陈述,小策略为每条笔记分配校准置信度,阅读器以两种声音给出答案,选择器在先验 $\pi$ 的精确先验平移下决定接受或放弃。当 $\pi$ 设为真实的正确上下文比例时,系统在所有 GRACE 上下文混合下均超越最佳基线,提升最高达 26 分。整体得分为 45.3(Qwen3.5-35B-A3B)和 35.0(Llama-3.1-8B),对比最佳基线分别为 29.4 和 27.5。在预注册的 ClashEval 中,同模型骨干的 CK-PLUG 和 TCR 分别落后 12 分和 26 分。正如理论所预测,当模型缺乏相应知识时,提升消失。
点评