编码代理是LLM最具经济影响的应用之一,可靠评估日益重要。但即使在发布时经过严格验证的基准,随着模型提升也会变得陈旧。模型可能找到验证器拒绝的合法解,评估基础设施的变化也会破坏任务假设。我们称这种缺陷累计为“基准维护债务”,即基准分数与真实能力之间的差距。
为了解决此问题,提出一种持续验证工作流,结合社区报告、任务工件、代理轨迹、自动oracle检查以及人工修复。该工作流用于 Terminal‑Bench 2.0,经过大量人工和语言模型辅助的审查与红队测试。
审计发现约30%的任务存在问题,修复后发布 Terminal‑Bench 2.1。修复提升整体准确率超过10个百分点,排行榜位置最多变动三名,整体排名仍高度相关(Spearman rho=0.958)。
进一步分析资源分配对基准结论的影响。固定的墙钟时间会显著改变代理表现,例如将时间上限延长可消除 GPT‑5.4 上的20个百分点差距,并将 GPT‑5.4 mini 上的30个百分点差距缩小至5个百分点。
因此,基准维护不仅涉及任务工件的修复,还必须把资源预算视为测量规范的一部分,与任务本身一起验证。随着模型进步,评估假设和资源设置都需要重新审视。
点评:持续的基准维护工作流能够及时捕捉模型与评估之间的错配,提升评估可信度,建议在所有关键基准中推广。