NeFut Logo NeFut
EN 管理员登录

[AI学术] SWE-Ladder:通过渐进特权自蒸馏实现定位、复现与修补

发布于:2026-10-27 22:00 最后更新:2026-10-29 00:58
#AI #Machine Learning #optimization

在软件工程(SWE)任务中,解决仓库级别的问题需要智能体完成定位、复现和修补三个阶段。传统的强化学习只依据最终补丁的单一测试结果进行训练,缺乏对中间步骤的指导。基于策略的自蒸馏(OPSD)通过教师模型提供每一步的完整参考补丁,引入了 token 级别的监督,但同样没有针对定位或复现提供阶段性信息。

SWE‑Ladder 的核心思想是把每个训练实例的已验证修复过程转化为阶段专属的证据:用于定位的变更文件和行号、用于复现的失败‑通过测试对、用于修补的 diff。系统使用规则路由器,根据每一步调用的工具将其分配到相应阶段;冻结的教师模型仅能看到匹配阶段的证据。随后在修复顺序上进行蒸馏,同时使用 GRPO 对完整轨迹进行优化。

实验使用 Qwen3‑4B‑Instruct‑2507 在 SWE‑bench 上的 R2E‑Gym 框架进行验证。相较于基线 GRPO(pass@1=10.4%)和完整补丁的 OPSD(pass@1=12.4%),SWE‑Ladder 将 pass@1 提升至 16.4%。在 OpenHands 框架下,pass@1 从 13.0% 提升到 17.6%。若在 R2E‑Gym 中颠倒阶段顺序,pass@1 降至 11.4%,说明阶段顺序对性能有显著影响。

该方法展示了通过阶段化、特权证据的自蒸馏可以显著提升软件修复智能体的定位、复现和修补能力。点评

原文链接: https://arxiv.org/abs/2610.33667

[h] 返回首页