在构建可信赖的人工智能时，可解释性至关重要，然而解释接口可能无意中为对手提供了扩展的隐私攻击面。近期研究表明，先进的会员推断攻击通过利用信心下降轨迹（confidence-drop trajectories），即通过归因引导的扰动所引发的变化，作为区分特征，而非直接使用信心分数或解释向量。现有的会员推断防御措施未能直接缓解这种以解释为驱动的攻击。
本研究探讨在训练过程中，是否可以利用模型自身的梯度作为抵御信号，以此使会员和非会员之间的解释特征保持一致。为此，我们提出了一种轨迹不变解释正则化（TIER）防御机制，该机制通过惩罚模拟的信心下降的剧烈波动，并同时通过KL散度最小化分布偏移。与传统的对抗训练强调标签的鲁棒性不同，我们的方法专注于解释的鲁棒性，通过施加KL散度强制自一致性，并减少会员和非会员之间信心下降的方差。大量实验验证了我们的方法有效缓解这些攻击，提供隐私保护，同时保持模型的效用和解释的可信度。
博主点评： 该研究提出的TIER方法通过引入梯度信息，创新性地将可解释性与隐私保护结合，展示了在AI领域中如何平衡模型的可解释性与对抗攻击的防御能力。这为未来的隐私保护机制提供了新的思路。