语言代理在交互中依赖于记忆,但大语言模型(LLMs)的有限上下文窗口和推理成本限制了可同时使用的记忆量。现有系统主要采用两种策略:记忆保留和记忆整合。记忆保留保持原始记录并保留确切细节,但相关证据可能无法在紧凑的预算下适应;而记忆整合则压缩并组合记录,提升每个标记的覆盖率,但可能会丢失查询关键细节。这引发了两个核心问题:何时应让整合取代保留?应选择哪种操作符——合并、抽象或重写?
我们通过将每个操作符的效用分解为对保留所省略证据的覆盖效果和对已经适应的原始证据的有符号替代效果来形式化这一决策。这一平衡解释了为何在相对预算压力下,优选的操作会发生变化。我们通过离线抽象安全(OAS)实现了这一机制,这是一种轻量级学习器,可从生成前特征中估计行动效用,并进行有害校准。
公开的 LongMemEval 和 LoCoMo 基准表明了相同的预算依赖模式。在 LongMemEval 上,整合在紧张预算下将绝对准确性提高了最多 48%,而在宽松预算下保留更为可取;LoCoMo 在较小预算下复现了这一交叉,与其较短的证据一致。在这两个数据集上,当压缩是必要时,跨笔记抽象和合并通常优于局部重写。
博主点评: 本文提出的记忆选择策略为语言代理的性能优化提供了新的思路,尤其是在预算有限的情况下。通过分析保留与整合的效用,展示了如何在不同的预算压力下做出更合理的决策,为未来的研究奠定了基础。关键的 OAS 方法为实现这一策略提供了有效的实现路径,值得深入探讨。