摘要
随着数据隐私法规的日益严格,机器遗忘在推荐系统中变得愈发重要。本文的目标是从训练好的模型中移除请求的用户交互数据及其后续影响,同时保持推荐质量,并避免完全重训练带来的高计算成本。现有方法存在多项局限性,包括遗忘的完整性不足和推荐性能的下降,且计算开销较大。
为此,我们提出了Obliviate,一个高效的两阶段遗忘框架,旨在为推荐系统提供高完整性的遗忘能力,同时保持良好的实用性。在第一阶段,我们引入了低秩遗忘适配器(LUA),该适配器利用轻量级的Hessian代理,采用局部低秩适配器实现曲率感知的高效遗忘,而非调整全部参数。在第二阶段,我们提出了局部感知校准(LAC),这是一个轻量级的精细化阶段,仅更新适配器参数,通过基于排名的目标强制实现遗忘,同时通过知识蒸馏保留实用性。
大量实证评估表明,Obliviate在显著降低计算成本的同时,实现了高水平的遗忘,且对推荐质量的损失极小,为大规模推荐系统提供了实用且可扩展的解决方案。
博主点评: Obliviate框架通过两阶段策略有效解决了推荐系统中的遗忘问题,尤其是在保障用户隐私的背景下,展现了其在实际应用中的巨大潜力。其低秩适配器和局部校准的设计思路,为未来的推荐系统优化提供了新的方向。