NeFut Logo NeFut
EN 管理员登录

[AI学术] 联邦训练会削弱可解释性吗?Grad-CAM 在集中式与联邦深度伪造检测中的可信度比较

发布于:2026-11-01 22:00 最后更新:2026-11-02 00:48
#AI #Machine Learning #Neural

自动化检测已成为对抗逼真合成媒体的关键手段,但在大规模部署时需要使用来自多个组织的敏感数据,这使得隐私保护与法医审查所需的透明性产生冲突。联邦学习通过仅共享模型更新而非原始数据来缓解隐私问题,但其对分析师依赖的梯度解释可信度的影响尚未得到系统研究。我们对 Grad‑CAM 在联邦深度伪造检测中的解释忠实度进行系统评估,使用 EfficientNet‑B4 检测器在 FaceForensics++ 数据集上进行实验,设置五个联邦客户端并在独立同分布(IID)到高度异构的不同数据分布间进行对比。实验结果显示,联邦训练与解释质量之间的关系呈非单调趋势:在接近 IID 或中等异构程度时,联邦模型的 Grad‑CAM 解释与集中式基线相当甚至更好;但在极端异构情况下,解释显著退化,呈现空间不连贯且在因果层面误导的特征。这种退化并非联邦训练的必然代价,而是由客户端数据异构度触发的阈值效应。基于此,我们提供了实用指南,帮助判断在何种异构水平下可以安全部署隐私保护的深度伪造检测以及何时需要对解释结果保持警惕。代码和数据划分已公开以支持复现。

点评

原文链接: https://arxiv.org/abs/2610.39483

[h] 返回首页