真实世界任务往往复杂且噪声丰富,这对大语言模型(LLM)代理提出了严峻挑战。现有评估缺乏系统框架,无法同时刻画潜在的扰动目标和扰动类型。我们提出一个二维视角,将目标与类型统一建模,并据此开展统一实验,量化前沿模型的鲁棒性,追踪扰动导致失效的机制,并给出面向鲁棒性的训练建议。
在 APEX-Agents 与 Toolathlon 两套基准上进行受控评估时,所有扰动均显著降低性能,但不同任务环境下的主要脆弱点各不相同。轨迹层面的分析表明,代理很少识别被篡改的输入,往往在缺乏验证的情况下传播错误信息。进一步的成本分析显示,成功的扰动轨迹往往需要显著更多的计算资源。
这些发现促使我们提出训练目标:覆盖多样噪声形式、强化结果验证、提升不确定性感知以及恢复能力。我们同时提供了严格的基准构建流水线,代码与数据将在 https://github.com/xuyj233/AgentPerturb 发布。
点评:本文通过系统化的扰动框架揭示了 LLM 代理在交互过程中的关键弱点,为后续的鲁棒性训练提供了明确方向。