蒸馏大模型的长链推理轨迹是提升小语言模型推理能力的有效手段，但传统方法在蒸馏前会固定训练集，忽视学生模型能力随训练而变化的事实。固定数据导致两类浪费：已掌握的例子提供的监督信息有限，远超学生能力的例子学习难度大，尤其在只能使用少量教师轨迹时问题更为突出。为此我们提出 BoundaryEvo，一个两阶段的数据‑模型协同进化框架。
阶段一：能力预热（Capability Priming）直接使用少量教师生成的长推理轨迹进行蒸馏，不依赖额外的判别模型过滤，使学生在没有能力感知的情况下获得初步推理能力。
阶段二：能力边界协同进化（Capability‑Boundary Co‑Evolution）在每轮迭代中挑选当前学生尚未掌握但专家能够可靠解答的问题，将这些问题加入训练集并继续蒸馏。随着学生能力提升，数据选择也随之更新，形成学生能力边界的动态适配。
在仅使用 1,000 条训练样本的条件下，BoundaryEvo 在 11 项推理基准上持续超越静态和动态数据选择基线。以 Qwen3.5‑4B 为例，IMO‑AnswerBench 的准确率从 62.9% 提升至 75.3%，AMO‑Bench 从 26.8% 提升至 46.0%。代码和数据将公开发布。
点评