NeFut Logo NeFut
EN 管理员登录

[AI学术] HarnessMM:递归自我改进提升 Harness 令牌效率

发布于:2026-10-27 22:00 最后更新:2026-10-29 00:58
#AI #Machine Learning #LLM

本文介绍 HarnessMM(Harness Minus Minus),一种通过受保护的决策复用和递归自我改进(RSI)提升 Harness 令牌使用效率的方法。RSI 在训练阶段不断利用工具反馈细化伴随的 Harness 配置,并通过验证阶段挑选最优配置用于实际部署。模型‑工具边界的控制器在保持 actor 权重不变的前提下,复用已经解析的决策,以取代后续的推理回调。

可执行决策图(Executable Decision Graph)记录了精确的动作、字面参数、因果依赖以及公共守卫(public guards)。当观察到相同的收据时,受保护的决策复用(Guarded Decision Reuse)会激活这些持久化决策;认证回调替换(Certified Callback Substitution)通过原生接口执行决策,并记录已移除的慢回调。若出现新语义决策、未支持的证据或选择器弃权,则重新调用原始 actor。

该表示限制了反馈能够修改的范围,同时通过完整任务的测量来评估质量与成本。实验结果显示:在 HumanEval 基准上,HarnessMM 将 Codex 的成功率保持在 90.82% 的同时,将每任务令牌数从 66.72k 降至 47.02k,节省 29.54%;在 DeepSeek Harness 上,成功率从 71.43% 提升至 85.71%,令牌数从 96.28k 降至 11.62k,节省 87.93%。另外,MBPP 的消融实验表明,单次使用图的成本降低 26.91%,相较于保留回调的成本降低 19.52%。这些结果证明,受保护的决策复用是降低现有 Harness 重复推理开销的实用手段。

点评:HarnessMM 通过结构化决策存储与递归优化,实现了显著的令牌节约和性能提升,为大模型工具调用的成本控制提供了可复制的范式。

原文链接: https://arxiv.org/abs/2610.32813

[h] 返回首页