NeFut Logo NeFut
EN 管理员登录

[AI学术] 最小自主权理论:重塑人工智能权限管理

发布于:2026-07-14 22:00 最后更新:2026-07-15 01:59
#algorithm #AI #optimization

摘要

最小权限原则,即身份只能持有其任务所需的严格权限,数十年来一直是访问控制的基础原理。然而,我们认为这一原则对自主AI系统而言是不够的,因为这些系统不仅仅持有权限,还能够跨工作流和系统边界组合、批准和放大这些权限。

理论发展

我们提出最小自主权作为适当的推广,并发展出一个正式理论。

  1. 构造性爆炸半径:我们定义了一个组合性爆炸半径 $d(a,b)$,用于测量企业层级中行动之间的结构分离,结合了超度量树和格值的保密性、完整性及控制上下文标签。

  2. 有向代理影响图:我们定义了一个有向代理影响图 $G(\theta)$。从 $U$ 到 $V$ 的弧需要一个有向共享资源的写入-读取会议,或一个保守的无向代理间(A2A)通信会议,并且影响潜力必须达到或超过外部选定的政策阈值 $\theta$。一个目录半径配置文件支持 $\theta$ 的校准和审计。

  3. 共谋谓词:最后,我们定义了一个关于图可达性的共谋谓词,以检测授权组合、决策操控和跨域能力组合。

博主点评: 本文提出的最小自主权理论为AI系统的权限管理提供了新的视角,通过构建影响图和爆炸半径,增强了对复杂系统中权限交互的理解,具有重要的理论和实践意义。未来的研究可在此基础上进一步探讨如何有效实施这一理论。

原文链接: https://arxiv.org/abs/2607.09744

[h] 返回首页