随着企业越来越快地部署自治 AI代理,他们需要一种有效的治理方法。现有的方法通常基于单一学科,如 DevSecOps,难以满足不同规模的代理需求。我们认为,智能 AI 治理是一个由四个问题组成的复杂系统,每个问题都有其成熟的治理科学。CASE 框架将控制理论应用于个体代理(意图作为设定点,防护栏作为反馈,评估作为观察),将复杂的自适应系统理论应用于代理集体(其中涌现使单代理保证变得非构成性),将监督控制应用于人机团队(其中必需的多样性法则表明无辅助的人类监督在结构上是失败的),并将工程操作应用于舰队(将错误预算扩展到决策质量,使自治成为一个可控变量)。我们正式化了每个层次,推导了层间耦合条件,包括一个零触摸部署悖论,其中一个层次的卓越会损害其他层次,并追踪了二十多个企业控制到其经典构造。三个实证研究验证了这一论点:82% 的已记录生产代理失败是多层次轨迹;22 个生态系统工具中没有一个提供完整的第 2 层(涌现)覆盖;所有 35 个评分的公共部署都处于最低的成熟度带。我们将这种不匹配称为涌现差距,即在涌现层面上实现的风险与几乎没有涌现的能力和缺乏实践。一个具有非补偿瓶颈加权索引和评估工具的五级成熟度模型将 CASE 作为一个科学的成熟度模型而不是过程成熟度模型,建立在生产企业智能平台上。随着 EU AI 法案第 14 条使有效的人类监督成为法律要求,只有满足必需的多样性的架构才能使监督变得真实而不是仪式性的。 博主点评: CASE 框架为企业智能 AI 治理提供了一个多学科的视角,强调了涌现层面的重要性和有效人类监督的必要性。通过将控制理论、复杂自适应系统理论、监督控制和工程操作应用于不同层次的代理,可以实现更有效的智能 AI 治理和降低风险。这个框架为企业提供了一个科学的成熟度模型,帮助他们评估和改进智能 AI 治理能力。