人类与 AI 系统正日益共享同一社会与经济环境。所谓对齐——确保 AI 按人类价值行事——被视为实现 AI 造福社会、避免危害的核心挑战。我们认为这一目标本身存在根本缺陷。首先，对齐的定义并不明确，因为它假设人类意图或价值能够保持足够稳定且可辨识。其次，即便能够给出具体的对齐概念，也不存在通用的求解方法。再次，即使在某些情形下对齐可解，解决它也未必能消除 AI 带来的负面影响。关键在于，对齐通常被视为单个 AI 系统的属性，而人机混合社会是由交互与反馈回路塑造的复杂系统。由此产生的涌现风险——而非单个失调系统的风险——可能成为主要危害来源。我们因此得出结论：AI 安全是一个持续的挑战，而非通过验证某一模型属性即可一次性解决的问题。
点评：对齐问题的不可解性与不足以保障安全的论点提醒我们，需要转向系统层面的风险治理，而非仅聚焦单个模型的价值匹配。