在AI驱动决策者（ADM）影响我们社会经济现实的背景下，提升效率与放大社会偏见的角色引起了广泛关注。本文重新审视了ADM在信贷贷款引发的财富过程中实现长期“公平”的细微差别。现有文献主要考虑（a）被动环境，即预测者的结果并不改变人群的行为；（b）通过即时预测的差异来衡量偏见，而非下游的公平性。这与现代ADM（如信贷贷款者）的实际情况不符。
为了解决这些问题，我们首先将贷款批准的ADM与多元人口的互动形式化为一个表演性马尔可夫决策过程（MDP），并定义了ADM级别和社会结果级别的奖励函数。接着，我们通过开发Eutopia，一个借贷过程模拟器，克服了缺乏表演性测试平台的问题，利用新的表演性数据生成器来学习长期公平策略。最后，我们测试了不同公平感知和功利性效用的表演性与经典强化学习（RL）算法。
实验结果表明：（a）在表演性动态下学习能带来更好的长期效率和公平性；（b）基于社会结果评估的精心设计的公平感知效用学习能提高效率、公平性和包容性。
博主点评： 本文对长期公平性的探索不仅提供了理论上的新视角，还通过Eutopia模拟器实现了实践上的应用，展示了AI决策过程中的复杂性和动态性。此类研究有助于我们更好地理解和设计未来的AI系统，以实现更高的社会公平性。