摘要
现有的自演化记忆系统主要基于文本输出（如任务轨迹和反思）来提升智能体记忆。然而，这种以文本为基础的范式很少考虑内部机制信号，导致在任务执行过程中如何利用检索到的记忆未得到充分探讨。这一局限可能导致不可靠的错误归因和虚幻的记忆修改。
在本研究中，我们展示了检索头注意力提供了一种机制信号，用于揭示段级记忆利用情况。通过对记忆段和决策步骤的注意力进行聚合，我们构建了一个上下文利用矩阵，展示了重复的记忆使用模式，并指示了相应的精炼策略。
基于这一观察，我们提出了注意力引导的记忆精炼（AGMR）框架，该框架利用注意力揭示的利用模式来指导针对性段级记忆更新。AGMR 针对失败执行纠正或增强记忆，针对成功执行简化记忆，并通过重新执行验证每次更新。实验表明，在交互式决策基准上的表现显示，AGMR 在任务表现和记忆效率上均优于仅基于文本的记忆精炼基线。
代码可在 此处获取。
博主点评： AGMR 框架通过引入注意力机制，巧妙地将记忆的利用模式与更新策略结合，为智能体记忆系统带来新的视角。这种方法不仅提高了任务执行效率，也为更复杂的决策过程提供了坚实的基础，值得进一步研究与应用。