摘要
在Agentic工作流中,通常会在共享的结构化状态上进行操作。由于LLM的上下文窗口有限,每次模型调用通常只显示当前工作流步骤所需的状态片段,这种模式被称为渐进式披露。现代系统通过类似grep的关键词搜索、增强生成(RAG)、抽象语法树(AST)查询和特定任务的代理技能来构建这些面向模型的视图。这些方法使读取部分可管理,但并未定义局部提议的重写在应用回全局状态后何时有效。缺失的部分是局部更新与全局有效性之间的契约。
我们引入了PatchOptic,这是一种灵感来源于光学的接口,用于共享状态的LLM工作流。光学是描述如何读取和更新结构化数据视图的组合性双向访问器。PatchOptic借鉴了这种视图/更新的直觉,通过投影读取和验证的结构补丁来实现。每个工作流步骤声明一个投影读取视图、一个授权写入区域和一个补丁源区域。除了运行时强制执行之外,相同的声明还生成了一个路径级的足迹,支持委托、子工作流组合和静态证书,以便在同一阶段内重新排序独立步骤。
我们通过PatchBench评估这一设计,该基准包含46个跨领域的案例。结果表明,投影读取减少了报告的泄漏和令牌成本,同时在强执行者下保留了接受输出的质量。运行时验证在提交前阻止了声明的工作流契约违规行为,而补丁读取强制则拒绝了使用隐藏源的受损补丁工件。
博主点评:PatchOptic通过引入光学概念,提供了一种新颖的方式来处理共享状态的LLM工作流,确保了局部更新的有效性与全局一致性,为未来的复杂系统设计提供了重要参考。其在性能和安全性上的提升,展现了在多任务处理中的巨大潜力。