On‑policy 蒸馏（OPD）让学生模型在自身生成的答案上接受教师的逐词监督。传统做法对所有 token 使用相同权重，忽视了不同 token 对学习的贡献差异。已有的加权方法通常预设预测信号到权重的映射，却没有依据学生更新后的实际效果来学习这些映射，导致难以适应学习需求的变化。
MetaOPD 将学生模型和一个轻量级的 token 加权网络一起训练，形成双层优化框架。内层目标在加权的 OPD 损失下更新学生参数；外层目标在一次“虚拟”学生更新后，以参考答案上的验证损失来优化加权网络。通过对虚拟更新求导，权重决定与后续性能之间建立了直接的梯度联系，使得权重映射能够随学生的学习进程同步演化。
实验在六个数学推理数据集和三个跨域数据集上进行，覆盖 0.6B 与 1.7B 两种学生规模以及七个基线模型。结果显示，MetaOPD 在 Avg@8 和 Pass@8 上分别比普通 OPD 提升 1.99%/5.97%（0.6B）和 2.25%/6.41%（1.7B），验证了其在不同任务和模型规模下的稳健性。
点评：MetaOPD 通过元学习实现了动态、数据驱动的 token 加权，克服了固定映射的局限，为提升 on‑policy 蒸馏的效果提供了新思路。