在策略蒸馏（OPD）通过让学生模型在自身生成的轨迹上学习，并借助更强教师的监督来提升性能。然而，当教师在学生生成的前缀上进行条件化时，可能会倾向于产生违背问题前提的无效续写，从而导致错误的推理步骤。为了解决这一问题，我们提出了条件对比外推在策略蒸馏（CCE‑OPD），使教师监督能够感知问题条件。CCE‑OPD 包含两个关键机制：
- 固定前缀比较：同一冻结教师分别评估完整问题和将选定条件掩码后的问题，以捕捉条件对答案的影响。
- 有界对数概率对比：根据比较结果对教师的概率分布进行重新加权，生成辅助蒸馏目标。
在 200 条诊断推理状态上，条件对比将教师偏好无效续写的比例从 27.0% 降至 16.0%。在六个数学基准的广泛实验中，CCE‑OPD 将 avg@8 相比基线 OPD 提升了 1.60%（将 Qwen3‑8B 蒸馏至 0.6B 学生）和 1.95%（蒸馏至 1.7B 学生），并在四个迁移基准上取得最强表现。
点评