NeFut Logo NeFut
EN 管理员登录

[AI学术] 超越二元可验证奖励:软件工程代理的行为自我奖励

发布于:2026-10-12 22:00 最后更新:2026-10-13 00:57
#algorithm #AI #Machine Learning

强化学习可验证奖励(RLVR)通过可执行测试为软件工程(SWE)代理提供可靠监督,但二元奖励无法区分调试质量差异巨大的轨迹。本文探讨当前策略能否自行评估其轨迹,并利用这些评估在无需额外奖励模型的情况下提升任务表现。为此我们提出 行为自我奖励(BSR),一种奖励细化方法:

这种做法在不增加环境交互的前提下,从已有轨迹中获取额外监督信号。实验在 SWE-bench Verified 与 SWE-bench-Live 上进行,使用 Qwen3-14B 与 Qwen3-32B 两种配置。结果显示,BSR 在所有评估指标上均实现了稳定提升,验证了策略自身的比较判断可以作为软件工程代理训练的补充学习信号。

点评:BSR 通过内部比较而非外部奖励模型,实现了高效的奖励细化,为提升 SWE 代理的调试能力提供了新思路,且易于在现有 RLVR 框架中集成。

原文链接: https://arxiv.org/abs/2610.12598

[h] 返回首页