多模态推理要求模型将多条证据组合成满足所有约束的决策。传统评估只看最终答案准确率,难以判断错误是来源于对单个事实的读取还是对事实的整合。本文聚焦“多证据整合缺口”,在受控的子集选择和路径寻找任务上,将局部事实恢复的正确性与全局决策的有效性关联起来。评估包括:在局部答案正确的条件下的性能、同网格局部查询、文本oracle 输入、检索控制以及约束消融实验。我们进一步在不同网络深度、token 位置和模型系列上进行隐藏状态探针和激活替换实验。结果显示,局部事实恢复准确并不保证全局正确。例如,Gemma‑3‑27B 能完整恢复所有孤立项事实,却在八项视觉实例上仅达到 19.75% 的全局有效性。探针能够从全局提示状态中解码解答成员信息,而对应的干净状态替换在模型相关的深度范围内恢复了错误的决策。这表明,仅有事实恢复和解答相关信息的表示不足以实现可靠的联合决策。研究呼吁在感知能力和模型规模提升的同时,设计专门评估并改进证据组合方式的评测与模型。
点评