在检索增强生成(RAG)系统中,常用的群体公平性指标是对所有查询进行聚合计算。但这种聚合会掩盖主题层面的不平等:系统可能在涉及人权的问题上偏向女性,而在涉及演员和电影制作人的问题上偏向男性,整体看来几乎中性,却没有任何主题是公平的。
为了解决这一问题,本文提出了主题层面的公平性要求,即公平性必须在每个主题内部成立,而不仅仅在整体上成立。为降低主题间的差异,我们为每个主题单独适配重排序器,使用Bradley‑Terry模型在生成器输出的直接监督下进行训练:从生成器自身的输出构造偏好对,按照各主题需要的方向进行学习。
仅使用RoMQA数据构建的偏好对,实验表明该方法在RoMQA上将平均每主题绝对差异降低了51%,在TREC Fair Ranking上降低了40%,且保持了检索准确性。即使将基线方法改为对每个主题单独处理,也未能达到相同的降幅。使用单一重排序器覆盖所有主题的做法同样失效,因为它只能遵循多数主题的方向。
点评