NeFut Logo NeFut
EN 管理员登录

[AI学术] 反事实公平图像分类器是否满足群体公平性?——理论与实证研究

发布于:2026-07-09 22:00 最后更新:2026-07-10 03:15
#algorithm #AI #Image Classification

在算法公平性研究中,反事实公平(CF)和群体公平(GF)的概念被积极探讨。然而,CF与GF之间的确切关系在图像分类任务中依然不明确,原因在于我们通常无法从现有图像中收集与敏感属性相关的反事实样本(例如,具有不同性别特征的同一人照片)。

本文中,我们构建了新的图像数据集,以高质量的图像编辑方法进行评估,并由人工标注。我们的数据集 \oursceleb 和 \ourslfw 基于流行的图像GF基准,因此可以同时评估CF和GF。

我们实证观察到,在图像分类中,CF并不意味着GF,而在以往的表格数据集研究中则观察到了相反的结果。我们理论上证明,这可能是由于存在一个与敏感属性相关但并非由其引起的潜在属性 $G$(例如,次要性别特征与发长高度相关)。

基于这一观察,我们提出了一种简单的基线方法,反事实知识蒸馏(CKD),以减轻与敏感属性的相关性。在 \oursceleb 和 \ourslfw 上进行的大量实验结果表明,如果我们成功减少对 $G$ 的依赖(例如,使用CKD),那么实现CF的模型将满足GF的要求。

博主点评: 本文通过构建新的数据集和提出CKD方法,深入探讨了反事实公平与群体公平之间的复杂关系,为图像分类的公平性评估提供了新的视角与实证依据,推动了该领域的研究进展。整体上,研究结果对算法公平性的理解具有重要的理论与实践意义。

原文链接: https://arxiv.org/abs/2607.06603

[h] 返回首页