随着人工智能(AI)在英国和全球警务中的应用日益普遍,种族偏见的风险也日益明显。然而,受影响社区的代表很少被纳入到 AI 采用决策中。我们组织了一场混合利益相关者讨论会,将 30 名社区代表、警官和学者聚集在一起,评估警务中 13 种 AI 应用场景的风险,特别关注种族偏见。结果发现,参与者在整体上对 AI 采用持开放态度,只有三个应用场景被直接拒绝,其中最值得注意的是再犯风险评估。我们的分析显示,突出种族公平问题并没有限制讨论范围,反而引发了几个基本问题:该工具是否真正有效、是否能带来真正的益处、以及该益处是否能惠及所有人?这种整合性推理方式与包容性设计中的路缘效应类似,强调了将种族偏见视角融入到 AI 应用场景的风险效益分析中去的重要性。 博主点评: 本研究通过混合利益相关者讨论会探讨了警务中 AI 风险边界的谈判,结果表明种族公平问题的考虑并不限制讨论,而是引发了对 AI 工具有效性和公平性的更深入思考,这对警务 AI 应用具有重要的参考价值。