NeFut Logo NeFut
EN 管理员登录

[AI学术] 更多记忆,更差的代理:错误再现与抗持久性

发布于:2026-10-21 22:00 最后更新:2026-10-22 01:04
#Machine Learning #LLM #Artificial Intelligence

LLM 代理可以通过将自身执行的经验写入外部记忆并在后续决策中复用来提升跨任务表现,而无需更新模型参数。核心设计问题在于是仅保存观察到的轨迹与结果,还是同时保存从中推导出的规则、摘要和技能等抽象。抽象的保留使得代理能够直接复用策略,而不必每次都从原始轨迹重新推导。然而,存储的抽象若包含错误,这些错误会通过检索与复用传播到后续决策,并且会影响执行轨迹,进而生成新的抽象,形成错误再现的反馈循环:抽象 → 执行 → 再抽象。为了解耦经验积累与抽象持久性,我们提出了 Anti‑Persistence 记忆设计。该设计持续收集轨迹和结果,在需要时按任务动态重建指导信息。自适应选择器依据历史结果决定是否合成指导以及合成方式,指导在执行后即被丢弃,避免作为可直接检索的对象存留。虽然通过保留的轨迹仍可能产生间接反馈,但直接的抽象复用被阻断。实验在多种基准和模型上显示,Anti‑Persistence 在整体持出成功率上最高,并且在所有记忆方案中平均 LLM 调用成本最低。结果支持将经验积累与抽象持久性分离的思路。

点评

原文链接: https://arxiv.org/abs/2610.27406

[h] 返回首页