NeFut Logo NeFut
EN 管理员登录

[AI学术] 自我回顾蒸馏:将事后经验转化为先验预见

发布于:2026-10-08 22:00 最后更新:2026-10-12 00:49
#algorithm #AI #Machine Learning

强化学习带可验证奖励(RLVR)主要通过交互后得到的标量奖励信号来驱动学习。当目标是相对组别的表现时,如果所有 rollout 获得相同奖励,这一信号会消失,即使轨迹中蕴含了任务需求和失败原因的有价值信息。

为了解决这一问题,本文提出前瞻学习的概念:利用事后经验来监督行为前的预测。具体实现为自我回顾蒸馏(SRD)。直观上,一段完整的轨迹揭示了本应提前知道的有用知识和应避免的陷阱,SRD 将这些特权的事后信息蒸馏为同一策略的轨迹盲前瞻预测。前瞻仅作为训练目标,在推理阶段并不需要显式生成。

在 10 项工具集成推理和长时程任务上,SRD 与 RLVR 以及自蒸馏基线共同提升了最高 $24.2$ 百分点的成功率。优势在奖励对比稀缺的情形尤为明显:在 $37\%\sim98\%$ 的 rollout 组在不同模型规模下奖励均匀的情况下,SRD 仍能从抽样轨迹中提取学习信号。尤其在 2B 规模实验中,$98\%$ 的组全部失败,单纯 RLVR 训练成功率为 $0.0\%$,加入 SRD 后在相同 rollout 预算下成功率提升至 $60.6\%$。

实验结果表明,事后经验不仅可用于评估或改进行为,还能在交互发生前塑造预测表征,为强化学习提供额外的学习信号。

点评

原文链接: https://arxiv.org/abs/2610.08077

[h] 返回首页