NeFut Logo NeFut
EN 管理员登录

[AI学术] Harness-Delta 归因:解析 Harness 演化的收益

发布于:2026-10-19 22:00 最后更新:2026-10-20 00:49
#AI #Machine Learning #LLM

Harness 演化通过在固定权重模型上自动优化提示、技能、工具以及编排代码,为提升代理系统提供了一条无需更新模型权重的路径。该过程在搜索集上迭代优化代理 Harness,以获得更高的性能。然而,这些提升到底有多少来源于基准特定的过拟合、额外的推理计算,或是能够在搜索集之外泛化的真正改进?

本文提出 Harness-Delta 归因 (HDA) 评估协议,将演化收益拆解为三部分:

  1. Artifact‑driven 过拟合——模型在搜索集上学习到的特定特征;
  2. 测试时扩展 (test‑time scaling)——因增加推理计算而产生的提升;
  3. 残差可泛化改进——除前两者之外的上限估计,代表可能的真实进步。

我们在数学、编码、创意以及完整代理任务上,对 11 种执行模型和三种 Harness 演化框架共计 21 组在统计上显著的搜索集提升进行 HDA 分析。结果显示,平均有 54% 的提升归因于过拟合,14% 归因于测试时扩展,两者合计在 14 组实验中超过 50%。残差可泛化改进以及在未见任务上的迁移表现随任务、模型和框架差异显著。值得注意的是,搜索集的提升往往难以迁移到未见任务,且在实际分布漂移下的持久性证据有限。验证集信号不足以阻止过拟合,这凸显了在未来 Harness 演化研究中引入归因感知评估的重要性。

点评:HDA 为评估自动化代理优化提供了细粒度视角,提醒研究者关注表面提升背后的真实价值,避免盲目追求搜索集成绩而忽视泛化能力。

原文链接: https://arxiv.org/abs/2610.22466

[h] 返回首页