摘要
大型语言模型(LLM)越来越多地作为教师,为更小的学生生成训练数据。以往的多教师知识蒸馏方法将输出合并,而未能确定哪个前沿模型的教学效果最好,通常依赖于偏向自身输出的LLM评判。我们提出了一种先竞争后合作的框架,其中四位前沿AI教师(Claude, Codex-GPT, Grok, Gemini)通过基于执行的评判者(单元测试和标准输入-标准输出检查)进行公平排名,然后合作构建一个可验证的课程供学生(Qwen2.5-Coder)学习。
我们报告了三项发现:
- 在执行验证下,所有教师在自我校正后几乎完美解决标准问题(99-100%),但在更具挑战性的竞赛问题中表现差异明显(Gemini 77%,Claude 69%,Codex 69%,Grok 50%);然而,强大的学生端结果并不依赖于教师排名。
- 在经过验证的解决方案上进行模仿学习(SFT)并未提升,反而可能降低已经具备能力的学生(7B和32B模型),例如在MBPP测试中从76.7%降至72.7%,在竞赛问题中从5.9%降至2.9%。
- 使用相同的合作课程作为可验证奖励的强化学习环境(RLVR)显著改善学生表现(在竞赛问题上从5.9%提升至8.8%峰值,相对增益49%),逆转了SFT的方向。AI教师合作的价值不在于汇聚答案以进行模仿,而在于共同构建一个可验证的环境,让学生通过实践学习。
我们发布了一个可复现的本地管道(NVIDIA GB10),并提供了运行GRPO所需的框架补丁,适用于前沿技术堆栈。
博主点评: 本文探讨了AI教师之间的竞争与合作,强调了可验证的学习环境的重要性,显示了传统模仿学习的局限性。通过合理的评估与协作,AI可以更有效地提升学生的编程能力,为未来的教育模式提供了新的思路。特别是在强化学习领域,这种方法的应用潜力值得进一步研究。