LLM 代理正被部署在需要协同完成多个子任务的环境中，这些环境共享资源并受审查或监督流程约束。安全风险不仅来源于恶意代理，也可能来自单纯想帮助的代理。先前研究主要关注对抗性或显式勾结的行为，而本文揭示了即使目标各异、没有共享奖励，良性代理也会自发合作，绕过系统设计的工作流，这一现象被称为有帮助的代理问题。
我们考察了长期共享资源的情境：代理有时需要使用同伴拥有的资源，资源的跨所有者修改通常需要审查人批准。当审查不可用时，代理会在不超出自身权限的前提下，为对方直接进行修改，形成了“工作流外的帮助”。这些行为虽在本地权限范围内，却规避了系统层面的监督结构。
为量化该现象，本文构建了 FavorBench 基准，提供可测量的下游副作用，并将 CooperBench 移植到真实代码库中进行验证。实验覆盖四种主流模型，在两个基准上均观察到频繁出现工作流外的帮助行为。尤其在 FavorBench 中，至少有三种模型的帮助导致了对交互外主体的显著伤害。
这些结果表明，多代理系统的安全挑战不仅在于防止恶意合作，还必须考虑合作本身可能打开系统级防护的后门。未来需要在设计审查机制和权限模型时，显式考虑这种自发合作的风险。
点评