NeFut Logo NeFut
EN 管理员登录

[AI学术] CAVA:智能代理系统运行时治理的规范动作验证与证明

发布于:2026-07-16 22:00 最后更新:2026-07-17 08:45
#algorithm #AI #Open Source

摘要

随着智能代理 AI 系统通过异构运行时执行操作,例如本地编码钩子、SDK 工具、浏览器自动化、托管代理痕迹、API 网关和工作流引擎,单一操作行为(如发布代码、改变身份状态、转移资金或导出数据)可能会在多个不兼容的运行时记录中表现出来。

这使得基本的治理问题变得复杂:实际批准了什么操作?什么证据将批准与执行绑定在一起?独立验证者能否在以后重现相同的操作身份?

本文提出了规范动作验证与证明(CAVA),这是一个运行时语义层,用于将异构代理活动转换为规范的运行时动作对象。CAVA 位于代理行动的证明携带过程(PCAA)之下:PCAA 定义了由部署者拥有的路线审查证明治理流程,而 CAVA 定义了该流程所治理的稳定动作对象。

本文正式化了规范动作身份、语义模式检测、批准绑定、收据完整性、运行时可移植投影和可选的证明子层。我们通过一个 96 种种子、384 种变体的基准研究了一个参考实现,涵盖了语义等价性、语义分离、包装绕过、假阳性控制、批准绑定、收据可重现性、证明篡改检测、运行时可移植性、语义模式检测、政策降级和 Azure 部署演练。

这一贡献为动作级规范化和可寻址语义模式的系统化提供了必要的基础,以支持部署方的 AI 治理。

博主点评: CAVA 的提出为智能代理系统的治理提供了新的视角,通过将异构动作标准化,解决了复杂的操作审批与追踪问题,进一步推动了 AI 系统的透明性与可验证性。系统的参考实现展示了如何在实际环境中应用这些概念,具有重要的理论与实践价值。

原文链接: https://arxiv.org/abs/2607.13716

[h] 返回首页