NeFut Logo NeFut
EN 管理员登录

[AI学术] 差异洗白:临床多智能体系统中的公平缺失

发布于:2026-10-31 22:00 最后更新:2026-11-02 00:48
#AI #Machine Learning #LLM

临床大语言模型正被组建为多智能体团队,假设讨论可以平滑个体错误,却无法平滑偏见。我们在五类模型和四种聚合拓扑的全因子实验中,使用120例真实MIMIC‑IV急诊病例并进行反事实人口学置换,发现没有任何配置能消除差异:所有20种组合都沿着各智能体独立答案的方向,使黑人患者获得更高的急诊分级。每种模型都有一种拓扑会放大其基线差距,但放大方式随模型而变,因而没有可靠安全或可靠放大的设计——差异被迁移而非消除。后期修正如公平指令、人口学遮蔽均未改变差距,单智能体自去偏甚至扩大差距,因为偏见已嵌入常规临床数值。我们称之为“差异洗白”;现行的模型、输出、版本审计只能认证各部分,却无法认证最终决策。只有在系统内部显式引入反事实版本并通过讨论汇总到最终决策,才能关闭差距。多视角集合在每轮都汇总五种视角时,可将差距降低67%至94%,而从不汇总的拓扑始终无法修复。结论是,医学多智能体系统不会过滤人口学偏见,而是将其洗白为合理决策,唯一防御是让偏见可见。

点评

原文链接: https://arxiv.org/abs/2610.38215

[h] 返回首页