NeFut Logo NeFut
EN 管理员登录

[AI学术] CUSE:细粒度多模态遗忘框架,基于反事实引导与在策略自蒸馏

发布于:2026-10-15 22:00 最后更新:2026-10-18 08:05
#AI #Machine Learning #LLM

多模态大语言模型(MLLM)能够复现训练数据中的敏感、受版权保护或不安全的信息。有效的遗忘需要在同一回复中同时删除目标信息并保留非目标内容。现有方法通常对完整回复施加统一的遗忘目标,并依赖固定的离线监督,导致对单词的控制粗糙,且与模型当前行为不匹配。\

我们提出 CUSE(Counterfactual-guided Unlearning framework via on-policy Self-distillation),其核心思路有两步。第一步构造反事实输入:通过去除与目标相关的证据,观察模型在这些输入下的 token 概率变化,从而识别需要更强遗忘力度的 token。第二步在当前策略采样的回复上进行自蒸馏:冻结的原始模型作为教师模型,结合对应的遗忘和保留上下文,向学生模型传递 token 级别的遗忘与保留目标。该设计同时决定了“忘什么”和“保留什么”。\

在 MLLMU-Bench 基准上,CUSE 将遗忘集合的 ROUGE-L 降低了 33.6%,同时在保留集合上比最强基线提升了 1.2%。\

点评:CUSE 通过反事实引导精准定位需要遗忘的 token,并利用在策略自蒸馏实现细粒度控制,显著提升了多模态模型的遗忘效果,同时保持了原有知识的完整性。

原文链接: https://arxiv.org/abs/2610.14763

[h] 返回首页