强化学习可验证奖励(RLVR)通过可执行测试为软件工程(SWE)代理提供可靠监督,但二元奖励无法区分调试质量差异巨大的轨迹。本文探讨当前策略能否自行评估其轨迹,并利用这些评估在无需额外奖励模型的情况下提升任务表现。为此我们提出 行为自我奖励(BSR),一种奖励细化方法:
- BSR 复用同一任务、相同验证器结果的多条轨迹,比较可观察的调试行为;
- 将成对偏好聚合为任务局部分数;
- 将分数映射为有界的辅助奖励,保持验证器定义的通过/失败顺序的同时引入奖励对比度。
这种做法在不增加环境交互的前提下,从已有轨迹中获取额外监督信号。实验在 SWE-bench Verified 与 SWE-bench-Live 上进行,使用 Qwen3-14B 与 Qwen3-32B 两种配置。结果显示,BSR 在所有评估指标上均实现了稳定提升,验证了策略自身的比较判断可以作为软件工程代理训练的补充学习信号。
点评:BSR 通过内部比较而非外部奖励模型,实现了高效的奖励细化,为提升 SWE 代理的调试能力提供了新思路,且易于在现有 RLVR 框架中集成。