信任校准一直是 AI 辅助决策的核心框架,目标是缩小用户对系统可信度的感知与实际之间的差距,使其产生恰当的依赖。
我们认为,这种思路在问题定义明确、范围清晰的情境下有效,但会过度限制 AI 支持下的决策含义。为突破这一局限,我们提出 AI 辅助决策的三维视角:
- 信任 AI 只是管理不确定性的多种策略之一,用户还可以采用监督、验证或混合等方式。
- 当 AI 处理“宏观世界”决策问题——即目标、状态部分已知或不可知的模糊情境时,传统的信任校准往往被误用。
- 在此类情境下,人机对齐必须关注更高层次的决策过程,包括不确定性的识别、目标协商以及过程的共同演化。
基于上述观察,我们主张设计面向过程的人机耦合系统,使人类与 AI 在整个决策任务中持续发现并协商不确定性,从而实现真正的双向对齐。
点评