随着AI系统越来越表现出自主行为，对自主性的讨论常常混淆了系统在技术上能够做什么与在实践中应该被允许做什么。本文提出了一种治理框架，明确区分了允许自主性水平（Allowed Autonomy Levels, AAL）与自主能力水平（Autonomous Capability Levels, ACL）。
AAL定义了AI代理在风险、监督和问责考虑下被授权行使的自主程度，而ACL则描述了代理的固有技术能力。我们展示了一套结构化的自主性水平，包括反应执行、决策支持、监督行动、目标导向自主性和委托操作权，并描述了随着自主性增加，控制、可逆性和问责制的变化。
为了实现这一框架，我们提出了一种风险意识决策过程，用于分配允许的自主性，分析风险和问责如何在不同自主性水平中演变，并通过在企业数据工程代理中的应用示例来展示，说明如何在高能力水平评估的系统中，基于风险、可逆性和组织准备情况故意限制其至较低的允许自主性。
通过区分授权与能力，本研究为Agentic AI系统的设计、部署和治理提供了实用的指导。
博主点评： 本文通过清晰的框架划分了AI的能力与权限，为AI的安全与治理提供了重要的理论支持，尤其是在当前AI技术快速发展的背景下，确保自主性的合理性与安全性显得尤为重要。