当前对多模态模型的遗忘评估往往只看模型是否停止输出目标信息，这种表层判断隐藏了两个关键问题。其一，知识抑制方法容易导致模型捏造关于已遗忘主题的虚假事实；其二，仅通过拒绝训练改变可观察行为，却未真正擦除内部知识，模型可能在开放式查询中拒绝回答，却在多选探测中仍能给出正确答案。为了解决这些缺陷，我们提出了忘记感知自蒸馏（Forget‑Aware Self‑Distillation，FASD），旨在实现诚实的无知，即模型真正失去目标知识并学会承认其缺失。FASD 将目标分为两个互补通道。行为通道从一个被提示为无知的模型副本中蒸馏出合适的拒绝响应，关键是对教师分布中的目标标记进行遮蔽，防止意外重新教授已遗忘概念。知识通道则直接抑制真实答案跨度，独立于模型生成的文本。实验表明，FASD 能有效遗忘指定知识，防止在开放式任务中的信息泄露，同时保持对未遗忘数据的性能。最终模型不仅忘记了指定信息，还能准确识别自身知识的边界。
点评