NeFut Logo NeFut
EN 管理员登录

[AI学术] 理解与缓解推理时的记忆过度依赖

发布于:2026-10-07 22:00 最后更新:2026-10-08 01:25
#Machine Learning #LLM #Artificial Intelligence

Agentic memory 使大语言模型(LLM)代理能够复用过去的经验,但检索到的记忆有时会扭曲推理,即使这些记忆本身是良好的、正确存储且被恰当地检索。我们将这种现象称为记忆过度依赖(memory over‑reliance)。

在多个基准和记忆架构上实验表明:当过去的经验能够完整迁移到当前任务时,记忆是有帮助的;但若只有部分证据能够迁移,记忆就可能产生误导。尤其在查询与记忆之间仅有部分重叠时,错误最为显著。受此启发,我们设计了 MEMTRIM——一个即插即用的框架:在写入阶段为记忆证据建立索引,在读取阶段对其使用进行控制。MEMTRIM 会剔除重复或冲突的证据,同时保留对当前任务有价值的记忆信息;整个过程不需要重新训练,且兼容基于嵌入的记忆和结构化记忆系统。

实验结果显示,MEMTRIM 能显著降低记忆过度依赖,同时在各种模型和记忆设置下保持记忆带来的正向提升。

点评

原文链接: https://arxiv.org/abs/2610.07311

[h] 返回首页