摘要
最小权限原则,即身份只能持有其任务所需的严格权限,数十年来一直是访问控制的基础原理。然而,我们认为这一原则对自主AI系统而言是不够的,因为这些系统不仅仅持有权限,还能够跨工作流和系统边界组合、批准和放大这些权限。
理论发展
我们提出最小自主权作为适当的推广,并发展出一个正式理论。
-
构造性爆炸半径:我们定义了一个组合性爆炸半径 $d(a,b)$,用于测量企业层级中行动之间的结构分离,结合了超度量树和格值的保密性、完整性及控制上下文标签。
-
有向代理影响图:我们定义了一个有向代理影响图 $G(\theta)$。从 $U$ 到 $V$ 的弧需要一个有向共享资源的写入-读取会议,或一个保守的无向代理间(A2A)通信会议,并且影响潜力必须达到或超过外部选定的政策阈值 $\theta$。一个目录半径配置文件支持 $\theta$ 的校准和审计。
-
共谋谓词:最后,我们定义了一个关于图可达性的共谋谓词,以检测授权组合、决策操控和跨域能力组合。
博主点评: 本文提出的最小自主权理论为AI系统的权限管理提供了新的视角,通过构建影响图和爆炸半径,增强了对复杂系统中权限交互的理解,具有重要的理论和实践意义。未来的研究可在此基础上进一步探讨如何有效实施这一理论。