当语言模型从共享基参数的教师模型蒸馏时，学生模型可能会继承教师的行为特征——包括不对齐的特征——即使这些特征在语义上与训练数据无关（Cloud et al., 2026）。现有防御方法都要求事先知道要防御的特征。本文去除该要求，证明仅凭参数更新即可在无监督条件下恢复潜在转移的特征。核心思路利用单一不对称性：该特征在教师生成的多样数据集上表现一致，而任务特定能力和共享能力则会变化。基于此，我们构建了一个估计器，输出参数空间中的一个方向。对该方向进行放大可以显式发现并解释特征；对其进行投影则可抑制特征。我们在 Cloud 等人（2026）提出的潜在学习基准上实验，成功恢复了动物偏好特征，且在没有任何特征标签的情况下实现了抑制，几乎不影响任务性能。
点评：该方法通过参数空间的统一方向捕获潜在特征，提供了无需标签的通用防御思路，对安全蒸馏具有重要意义。