当医生、法官或工程师需要判断是否信任 AI 模型的输出时，必然要问模型到底“懂”了什么。纯粹的数学或统计描述难以在不重新提出 AI 理解问题的前提下区分可信与不可信的输出。传统的提问方式隐含了单声部范式：认知系统的理解必须归结为唯一的机制，支撑所有相关能力。我们基于大量机制证据指出，大语言模型（LLM）实际上是多声部的：输出来自若干平行机制的联盟，这些机制可靠性不均，可能相互补充、重复或相互掩盖；完成同一任务时，往往有多个联盟能够胜任，而没有任何单一机制是必不可少的。多声部特性使得对“理解”的归因变得复杂，也让单声部的推理模式变得危险。为此我们提出适配多声部 AI 的理解概念，核心是可靠且正确被召唤、控制输出的电路结构。对理解的归因因此转化为对内部组织的可检验主张，可用于指导对 AI 的信任。
点评