NeFut Logo NeFut
EN 管理员登录

[AI学术] Proof-Carrying 合约:AI 代理不可违背的承诺

发布于:2026-10-22 22:00 最后更新:2026-10-25 13:04
#algorithm #AI #Machine Learning

AI 代理越来越多地代表个人或其他代理执行购买、信息交换和工作委托等任务。代理必须遵守的规则通常以指令、政策或协议的形式出现,但仅靠文本难以保证其遵从,因为代理可能出错、被误导或追求自身利益。为使这类代理经济可靠,参与方需要能够在不检查或信任对方代理的前提下,依赖可执行的协议。为此我们提出 Proof‑Carrying Contracts(PC2)框架,使约束在代理与系统的交互全过程中可强制执行。每当代理请求执行操作时,必须提交一份机器可验证的证明,表明在其模型允许的所有情形下仍然满足约定约束。执行系统 Airlock 验证该证明并决定是否放行操作。协议的约束由双方定义,代理提供证明以说明其决策的合理性,同时保留自行调整策略的自由,这避免了为每一次决策单独设计权限策略并证明其安全性。我们证明,即使面对对抗性代理,约束在执行期间始终成立,并分析了何时能够映射到真实世界的安全性。可复用的能力模块提供工具和保证,供构建合约时使用。PC2 为代理经济提供了基础,使委托方和执行方的协议均得到保护。

点评:PC2 为 AI 代理提供了可验证的安全保障,兼顾灵活性与可靠性,是构建可信代理经济的关键技术。

原文链接: https://arxiv.org/abs/2610.28484

[h] 返回首页