NeFut Logo NeFut
EN 管理员登录

[AI学术] 使用经验两次:特权令牌级信用分配的动态过程评分标准

发布于:2026-11-06 22:00 最后更新:2026-11-07 12:32
#algorithm #AI #Machine Learning

在强化学习中,智能体的轨迹往往混杂成功决策和失败尝试,稀疏的轨迹级奖励难以辨别哪些关键决策需要强化。我们发现,同策略轨迹之间的细微差别可以抽象为自然语言的过程评分标准(rubric),并用作过程监督信号。基于此,提出了在线评分标准自蒸馏(ORSD),通过自生成的过程评分标准实现密集的令牌级监督,从而补足以结果为中心的强化学习。\ ORSD 在每一步让当前策略独立生成多个评分标准集合,每个集合来源于同一批轨迹的跨轨迹行为差异。随后,一个冻结的验证器对每条轨迹评估所有评分项,并依据评分满足度与任务成功之间的整体对齐度挑选出最合适的集合。训练时将该集合视为特权信息,比较原始令牌在有无评分约束下的对数似然差异,得到的差值即为令牌级的过程信用。该信用再与原始轨迹级的 GRPO 优势相加,实现优势整形。\ 实验在 ALFWorld 与 WebShop 两个基准上进行,使用 Qwen3-1.7B 与 Qwen3-4B 两种模型,在相同的交互预算下,ORSD 显著加速了策略提升并提升了最终任务成功率。代码已开源于 https://github.com/AnnaXChun/ORSD。\ 点评:ORSD 将轨迹级结果监督与细粒度过程监督有效结合,为稀疏奖励环境提供了可解释且高效的信用分配机制。

原文链接: https://arxiv.org/abs/2611.06543

[h] 返回首页