NeFut Logo NeFut
EN 管理员登录

[AI学术] OpenAgentFlow:为异构 AI 代理舰队提供系统级安全边界

发布于:2026-09-02 22:00 最后更新:2026-09-03 02:56
#AI #LLM #Open Source

AI 代理正从单一助手演进为由多个代理、规划器、控制器和执行后端共同作用的异构系统。此类环境下的安全问题转变为系统层面的动作治理:在共享状态被修改前,需要决定是否允许具体的代理生成动作提交。现有的安全措施仅覆盖提示、工具调用、GUI 操作和代理本地行为,往往导致执行路径碎片化,难以捕捉跨步骤的风险,也缺乏审计和策略演进的支持。

OpenAgentFlow 提出了一套控制平面/动作平面架构,在动作提交边界统一执行安全检查。它将待执行的 GUI 操作、API 调用、工具调用以及 LLM 生成的指令规范化为统一的 AgentEvent 流,并将每个事件送入共享的预执行 Policy Enforcement Point(PEP)。控制平面负责保存事件溯源、会话状态、审计记录以及可更新的安全策略,从而形成可治理的统一动作流。新策略可以在不修改代理、提示、模型或执行路径的前提下即时生效。

在 Android 平台上实现 OpenAgentFlow 后,使用 300 条动作事件基准测试得到 94.0% 的准确率和 95.3% 的攻击拦截率。针对 30 条动态策略套件,安装新规则后有 27 条表现符合预期。对 100 条 Android 模拟器用例中追踪的 98 条进行评估,原始准确率为 90.8%,在追踪校正后通过率提升至 92.9%,覆盖 GUI、API 与 LLM 规划的场景。

这些实验表明,OpenAgentFlow 能够为异构 AI 代理舰队提供实用的共享执行边界,实现系统级安全治理。

点评:OpenAgentFlow 展示了在异构代理环境中通过统一的动作提交边界实现系统级安全治理的可行性,尤其在 Android 场景下的高准确率和攻击拦截率证明了其实用价值。

原文链接: https://arxiv.org/abs/2609.00015

[h] 返回首页