本文探讨人类与人工智能能否合作,使两者的组合准确率超过任一单独系统的情况,即所谓的协同或互补。
我们构建了一个形式化框架,通过“依赖模式”描述人类决策与算法决策的联合正确性结构。
在此框架下推导出协同出现的必要且充分条件:必须至少有一方能够识别并纠正另一方的错误,这一机制被称为人类纠正和算法纠正。
该理论为知识型决策支持系统的交互策略设计提供基础,要求系统能够动态整合来自不同来源的专长。
通过对七个临床案例的分析,我们发现了“支配陷阱”:当算法优势过强时,会削弱人类的纠错机会,从而抑制协同效应的产生。
进一步的实验表明,即使存在自动化偏差等认知偏差,只要人机错误呈功能性去相关,协同仍然可以维持。
综上,本文为人机系统文献中的关键概念提供了形式化基础,并给出设计以交互为中心的AI系统以促进互补的可操作建议。
点评