摘要
目前的机器遗忘方法主要依赖于全局的、粗糙的干预策略,缺乏精确的引导信号来指导遗忘过程,且未能在不同遗忘任务中提供可微分的引导。由于样本在原始训练中的记忆强度不同,这种统一策略导致了两个问题:一是部分样本过度遗忘,影响模型的实用性;二是其他样本遗忘不足,留下的残余信息可能被隐私攻击利用。
在本文中,我们提出了 GSUO(Guidance-Signal-Aware Unlearning Optimization),这是一个设计任务特定的细粒度引导信号以引导遗忘过程的优化框架,适用于随机子集和类别遗忘任务。大量实验表明,GSUO 在遗忘效果和泛化能力上优于 14 个基线方法,同时实现了高效性和显著的速度提升,验证了其在可靠的机器遗忘中的有效性。
博主点评: GSUO 提供了一种新颖的细粒度信号引导策略,显著提升了机器遗忘的效果和效率,尤其在隐私保护日益重要的背景下,为模型安全性提供了新的解决方案。其在多种任务上的应用潜力值得进一步探索。