NeFut Logo NeFut
EN 管理员登录

[AI学术] 可靠的长时程 LLM 代理:轨迹中心的错误来源与控制研究

发布于:2026-11-11 22:00 最后更新:2026-11-12 00:51
#AI #Machine Learning #LLM

本文针对长任务中 LLM 代理的失效进行细粒度分析。传统做法只记录症状(如失败模式标签或负责的步骤),却不说明错误何时进入、通过何种状态传播、是否已有轨迹证据与之冲突、以及哪些控制手段本可以捕获它。为此我们设计了一种 episode record,将候选故障与其起点、传播、检测、响应和后果关联,并标注对应的控制族在何种操作阶段和状态域覆盖该故障。我们将记录转化为书面注释协议,完整阅读了 Who&When 与 MAD 两个公开语料库中 95 次失败运行(共六个多代理系统),逐条标注每条轨迹。结果显示错误大多在运行早期出现(中位数为 0.18),主要表现为对任务状态的错误决策或捏造;在 Who&When 88 次运行中,有 37 次错误出现早于语料库人工标记的决定性步骤。72% 的失败轨迹在错误出现前已包含反证,但 88% 的情况下没有任何代理对其作出响应。31% 的运行出现偏差标记,却没有后续行动纠正偏离状态。独立评审阅读未使用的证据、任务合同(在任务接受时固定)以及对环境的信念再检查,可覆盖大多数错误情形;仅恢复代理自身状态即可解决 35/95 次失败。对原始语料的文本扫描进一步发现,45% 的手工构造的 Who&When 失败以内容过滤器崩溃收尾,随后测试框架输出了没有任何代理产生的最终答案,这类错误既不在症状分类也不在负责代理标签中体现。协议、记录与脚本已随文公开。\n\n点评:该工作提供了系统化的错误溯源框架,为评估和改进长时程 LLM 代理的可靠性提供了可操作的路径。

原文链接: https://arxiv.org/abs/2611.13254

[h] 返回首页