[AI学术] 安全、持久、可演化的代理框架用于理解部分可观测世界

安全、持久、可演化的代理框架用于理解部分可观测世界

大型语言模型（LLM）代理能够流畅调用工具，但企业工作流对安全性和持久性有更高要求。工具的反馈在部分可观测环境下常隐藏副作用，长时任务需要跨记录的状态追踪。为此我们提出 E‑Ledger，一个多代理安全执行框架。E‑Ledger 在每一次动作执行前加入代码审批层，依据组织策略进行检查，并维护一个世界账本，记录已验证的隐藏规则及基于证据的动态状态。

隐藏规则通常事先未知，为此我们设计 WorldAbduct，一种基于世界模型的归纳演化框架。WorldAbduct 从四个互补视角诊断执行轨迹：状态一致性、世界观测缺口、策略门正确性、目标判断。通过这些视角生成潜在规则的假设，并利用针对性的归纳交互进行验证，随后将新规则写入账本。

在企业基准 World of Workflows 上，E‑Ledger 搭配 WorldAbduct 在四种 LLM 主干上提升安全任务完成率 5–15%。在 ScienceWorld 与 DiscoveryWorld 的科学环境中，同样展示了归纳框架的迁移能力。代码已开源：https://github.com/HKUST-KnowComp/E-LEDGER-WorldAbduct

点评：E‑Ledger 将策略审计、状态持久化与归纳学习有机结合，为企业级 LLM 代理提供了可验证、安全的执行路径，尤其在部分可观测场景下展现出强大的规则发现与适应能力。