记忆代理基准往往把检索和答案生成合并为一个得分,导致难以判断错误是因为缺少更新还是未使用已检索到的更新。我们在 MemoryAgentBench 的单跳 FactConsolidation 任务上对这一区别进行分析。使用 Qwen2.5-7B-Instruct 在 6K 历史记录下,BM25 检索的证据预算从 64 token 增加到 512 token 时,准确率从 45% 下降到 32%,尽管金标准审计发现每个检索集合中都包含最新的陈述。大多数错误出现在问题本身也包含过时陈述的情况下。保持提示不变且证据大小固定为四条时,用一条无关陈述替换为过时的竞争陈述,Qwen2.5 的准确率从 100% 降至 44.6%,Qwen3-14B 从 100% 降至 87.8%,所有 50 对有害翻转均被标记为陈旧。32K 历史的复现实验同样显示 BM25‑64 的表现优于 BM25‑512(69% 对 58%)。这些结果表明,仅检索到正确事实并不足以保证正确回答,过时的竞争陈述的危害甚至超过同等大小的无关证据。
点评