NeFut Logo NeFut
EN 管理员登录

[AI学术] 在选择偏差下可靠估计差分隐私

发布于:2026-10-22 22:00 最后更新:2026-10-25 13:04
#algorithm #Machine Learning #Cryptographic

统计隐私审计是验证差分隐私(DP)机制理论保证的重要手段。审计者通常使用成员推断攻击(MIA)在给定置信水平下估计 DP 机制真实隐私泄露的下界,该下界不应超过 DP 所保证的上界。然而,我们发现许多已有工作在运行 MIA 时引入了选择偏差,导致统计上无效且被高估的下界。由于大多数审计结果并不紧致,这一偏差长期未被注意:估计的下界仍远低于理论上限。准确评估下界至关重要,错误的统计评估可能导致对正确机制的误报或对保证紧致性的错误判断。本文借助统计文献中的工具纠正该偏差,概述了多种校正方法并比较其优劣。进一步,我们对已有审计实现的结果进行全面再分析,发现若不进行统计校正,这些审计会以高达四倍于声称置信水平的频率违反理论上限。经校正后,得到的下界在统计上是有效的,违规率不超过名义水平。

点评

原文链接: https://arxiv.org/abs/2610.27021

[h] 返回首页