NeFut Logo NeFut
EN 管理员登录

[AI学术] 编码代理自纠正应携带多少证据?自蒸馏的自适应狄利克雷证据

发布于:2026-10-08 22:00 最后更新:2026-10-12 00:49
#AI #Machine Learning #LLM

执行反馈让编码代理能够根据自己的修正重新编写程序并学习。修正的学习权重应同时考虑其执行支持的转移数量以及背后证据的多少。我们提出有效证据自蒸馏(EESD),将这两类量分别建模。归一化的执行相关性决定相对转移支持并形成有效的伪计数质量;随后使用狄利克雷后验得到一个带不确定性惩罚的 KL‑锚定修正学习权重。在对称先验下,改变质量不影响类别排序,且有效质量产生的监督系数被其对应的固定质量上界所限制。实验在四个模型‑领域历史跨度上进行,观察数从 1 增至 8 时,未来结果的负对数似然下降 55.0‑59.3%。在八次观察下,有效质量在所有比较中均取得比固定质量更低的 NLL。主实验使用 DeepSeek 与 RunBugRun 的匹配数据,3000 条样本的 argmax 预测全部一致,集中相关性下获得最大 NLL 提升。经过一次修正学习后,DeepSeek/CodeARC 的 Pass@1 从 15.0% 提升至 20.4%,配对 95% 引导置信区间为 [+2.8, +8.0] 百分点。十二种下游设置的评估进一步确认了该更新的模型‑领域适用范围。结果表明,将证据支持与证据质量分离能够改变概率估计并提升编码代理的修正学习效果。

点评

原文链接: https://arxiv.org/abs/2610.08514

[h] 返回首页