摘要
机器学习模型日益应用于高风险领域，引发了对隐私和公平性的关注。差分隐私（DP）已成为隐私保护数据分析的黄金标准，而公平性机制旨在减少对弱势群体的歧视。然而，这些目标可能存在冲突：DP通常会加大不同人口群体之间的差异，目前对在DP约束下已建立的公平干预措施的有效性了解甚少。
在本研究中，我们首次系统性评估了在差分隐私合成表格数据上应用的公平干预措施。我们的基准测试集中在自适应迭代机制（AIM），该机制被确定为最先进的边际基础DP合成器（Cormode et al. 2025）。我们在四个数据集、多个群体公平性指标和三类缓解策略（预处理、处理中和后处理）下，评估了公平干预措施在不同隐私预算下的表现。
我们比较了四种管道配置：
- Baseline：在原始数据上训练；
- DP-only：在DP合成数据上训练；
- Fair-only：在原始数据上应用公平机制；
- DP+Fair：将公平机制与DP合成数据结合。
结果表明，虽然单独使用DP可能会降低效用和公平性，但应用公平干预措施可以部分恢复公平结果。其中，后处理方法在不同隐私预算和合成器下提供了更稳定的公平-效用权衡，取得了显著的公平性改善，同时相较于其他干预阶段保持了竞争力的效用。
我们在一个开源仓库中发布了所有代码、数据和实验文献，以确保完全可重复性，并支持未来关于隐私、公平性和效用权衡的研究。
博主点评： 本文深入探讨了差分隐私与公平性之间的复杂关系，强调了后处理方法在权衡效果中的重要性，为未来的研究提供了宝贵的基准与资源。开源的做法也将促进社区的进一步探索与创新。