引言
联邦学习（FL）作为一种重要的隐私保护协作模型训练范式，能够在分布式和异构数据源中进行训练。通过将原始数据保留在本地，FL 解决了数据保密性问题，但并未解决现代机器学习模型的透明性。
与此同时，可解释人工智能（XAI）因其在高风险领域提高透明度、信任度和问责制而备受关注。两者的交集催生了联邦可解释人工智能（FedXAI）范式，旨在共同满足隐私和可解释性的要求。
文献综述
本调查提供了对 FedXAI 的系统性回顾，强调了可解释性从后期工具转变为 FL 生命周期中不可或缺的组成部分。可解释性在聚合、个性化、鲁棒性、协调和系统级决策中的作用得到了展示。
为组织文献，我们引入了一种分类法，根据可解释性的角色、模型和解释器类型、解释范围、集成水平、FL 设置和数据异构性对 FedXAI 方法进行分类。我们回顾了从模型无关解释到可解释的联邦模型以及可解释性感知的聚合机制等多种方法。
评估实践
我们还考察了评估实践，并讨论了缺乏标准化基准和度量来衡量解释质量、稳定性、隐私泄露和计算开销的问题。
挑战与未来方向
最后，我们识别了关键挑战，包括在非 IID 数据下的可解释性、以解释为中心的安全威胁、通信高效的 XAI、持续的 FedXAI，以及领域知识和监管约束的整合。通过整合现有工作并识别关键空白，本调查为设计值得信赖、透明和隐私保护的联邦 AI 系统提供了参考框架。
博主点评： 本文深入探讨了联邦学习与可解释人工智能的结合，为未来的研究指明了方向。尽管面临多重挑战，FedXAI 的发展将是实现高隐私标准下的透明 AI 系统的重要一步。期待后续研究在标准化评估和安全性方面取得突破。