在《机器永远不会统治世界》一书中,我们指出通用人工智能在数学上是不可能实现的。原因在于人类及其展现智能的过程本质上是高度复杂的系统,其行为无法被我们能够构造的模型,无论是否借助计算机,完整捕获。\ \ 针对当代机器智能的两类常见辩护:其一是理论层面的,依赖神经网络的通用逼近定理以及教会-图灵-德伊奇原理;其二是经验层面的,依据在标准化基准测试上不断提升的分数。\ \ 我们首先指出基于教会-图灵-德伊奇原理的物理主义论证存在严重缺陷:该原理假设任意可计算过程都可在物理上实现,但忽视了开放式、热力学复杂且非遍历的环境对认知行为的根本限制。\ \ 随后审视近期证据,发现主流基准测试普遍受到训练数据泄漏、测试构造缺陷以及针对特定指标的策略性优化的影响,这使得高分并不等同于真正的认知能力。\ \ 核心结论仍然保持不变:在开放、热力学复杂且非遍历的环境中执行认知行为所需的模型目前不可得,也不可能在可预见的未来实现。\ \ 点评