编码代理正从一次处理单个请求转向作为持久助理，用户可以连续提交构建、数据处理、Bug 修复等任务。代理需要决定何时接受新任务、如何分配和并行，以及如何在 CPU 与内存限制内运行。
现有基准只评估单独任务，无法衡量这种工作流。我们提出 AOS‑Bench，将代理系统视为工作负载管理器：验证任务随时间到达，需要在共享的 CPU、内存上完成，同一批任务单独运行时作为参考。
实验覆盖五组模型‑框架组合，发现单任务成功率并不能直接映射到流式工作负载。重负载下所有系统得分下降 13‑23 分；中等负载下，单任务成功率相差 11 分，而流式成功率相差 26 分，两系统在单任务上相差 0.6 分，却分别完成 54% 与 68% 的任务。
进一步分析表明，任务接收策略是主要瓶颈：串行调度导致 73% 的重负载任务未被领取。更复杂的管理并不一定更好，固定并发数为 2 的策略与最佳代理策略相差不到 4 分，且在所有策略下，CPU 使用率中位数保持在配额核数的 30% 以下，任务在等待。
结果表明，工作负载管理是代理的独立能力，AOS‑Bench 提供了相应的测量手段。
点评