NeFut Logo NeFut
EN 管理员登录

[AI学术] 全能记忆:面向记忆体的过程奖励强化学习

发布于:2026-10-16 22:00 最后更新:2026-10-18 08:05
#AI #Machine Learning #LLM

大型语言模型在多轮对话和长文档等需要长时历史的任务中,越来越依赖外部记忆。现有方法往往把检索和记忆构建拆开优化,缺少统一的奖励空间来评估搜索、写入和停止等决策。为此我们提出全能记忆(AiO-Mem),将这些操作统一为在共享证据状态上的转移,并在同一奖励空间直接评估每一步的语义质量。AiO-Mem 将异构历史编译为可追溯的多视角事件,为检索和记忆写入提供统一基底。统一的记忆策略 actor 在该证据状态上展开完整交互轨迹。随后训练一个轨迹条件化的过程奖励模型,通过证据驱动的监督微调和轨迹层面的 DPO 为收集的轨迹打分。分数被聚合为动作平衡的轨迹奖励,并由过程对齐的 DAPO(PA-DAPO)用于优化记忆策略。实验在长上下文记忆基准上显示,AiO-Mem 相比静态记忆系统和基于 RL 的记忆体均能持续提升答案准确率。

点评: 该工作通过统一奖励机制将检索、写入和停止决策紧密耦合,为记忆体的端到端优化提供了新思路,实验验证了其在实际长文本任务中的有效性。

原文链接: https://arxiv.org/abs/2610.21147

[h] 返回首页