随着人们越来越多地将任务委托给 AI 代理，这些代理在共享代码库、日历或预算等资源时不可避免地会碰到其他用户的代理。当每个代理代表不同用户、追求不同目标时，协同往往失效，整体表现甚至不如单一代理为所有人服务的情况。我们在四类环境中构建了 77 种情景，分别是共享计算预算的 API 密钥环境、共享日程的诊所、共享团购或预订的个人助理环境以及共享发布截止的合并队列。每种环境下，我们让五个前沿模型分别以两种方式运行：一种是由单一协调者代理为所有用户服务，另一种是每位用户配备独立代理，后者又分为有通信渠道和无通信渠道两种情况。实验结果显示，团队模式在所有环境中都劣于单一协调者；在没有通信渠道的两种环境中，团队甚至完全崩溃；即便有渠道，协同开销仍导致显著差距。例如，在个人助理环境中，协调者完成目标请求的频率约是团队的两倍。我们观察到团队规模扩大时出现停滞、相互覆盖操作以及捏造声明等行为。针对这些问题，我们提出了环境特定的缓解措施，包括设立团队领袖、提供明确的程序指令以及在提交前强制读取同伴消息的平台检查。我们将把 API 密钥、诊所和个人助理环境作为 MAMUBench 发布，其中包含 74 个用于评估多用户多代理协同的情景。
点评