NeFut Logo NeFut
EN 管理员登录

[AI学术] 基于来源感知的信念更新在人机反馈回路中的研究

发布于:2026-10-12 22:00 最后更新:2026-10-13 00:57
#AI #Machine Learning #LLM

在多轮人机交互中,同一观察可能被引用、概括并多次返回模型,导致重复看似独立的支持。我们探讨语言模型能否利用报告的来源信息,仅依据证据的来源而非报告数量进行更新。为此我们提出潜在商证据训练(LQET),它是一种关系型目标,将稀疏贝叶斯监督与两类约束相结合:当报告未提供新证据时保持预测稳定;对相同新证据在不同转发历史中产生一致更新。

在受控的二分类基准上,LQET 将新证据更新的均方根误差降低 41%~44%,在八步转发后对数几率漂移降低 89%~91%,实验覆盖 Qwen3-4B 与 Phi-4-mini 两种模型,每种模型使用三组随机种子。进一步的闭环仿真表明,模型置信度可决定后续轮次中多少转发报告重新进入上下文,从而实现基于证据新颖性的动态反馈。通过将信念更新锚定在提供的来源信息上,LQET 为构建影响随新证据而非重复次数变化的人机系统提供了一条可行路径。

点评

原文链接: https://arxiv.org/abs/2610.13008

[h] 返回首页