NeFut Logo NeFut
EN 管理员登录

[AI学术] 基准测试即软件:Terminal-Bench 与持续基准的案例

发布于:2026-11-07 22:00 最后更新:2026-11-08 12:04
#AI #Machine Learning #LLM

编码代理是LLM最具经济影响的应用之一,可靠评估日益重要。但即使在发布时经过严格验证的基准,随着模型提升也会变得陈旧。模型可能找到验证器拒绝的合法解,评估基础设施的变化也会破坏任务假设。我们称这种缺陷累计为“基准维护债务”,即基准分数与真实能力之间的差距。

为了解决此问题,提出一种持续验证工作流,结合社区报告、任务工件、代理轨迹、自动oracle检查以及人工修复。该工作流用于 Terminal‑Bench 2.0,经过大量人工和语言模型辅助的审查与红队测试。

审计发现约30%的任务存在问题,修复后发布 Terminal‑Bench 2.1。修复提升整体准确率超过10个百分点,排行榜位置最多变动三名,整体排名仍高度相关(Spearman rho=0.958)。

进一步分析资源分配对基准结论的影响。固定的墙钟时间会显著改变代理表现,例如将时间上限延长可消除 GPT‑5.4 上的20个百分点差距,并将 GPT‑5.4 mini 上的30个百分点差距缩小至5个百分点。

因此,基准维护不仅涉及任务工件的修复,还必须把资源预算视为测量规范的一部分,与任务本身一起验证。随着模型进步,评估假设和资源设置都需要重新审视。

点评:持续的基准维护工作流能够及时捕捉模型与评估之间的错配,提升评估可信度,建议在所有关键基准中推广。

原文链接: https://arxiv.org/abs/2611.08417

[h] 返回首页