NeFut Logo NeFut
EN 管理员登录

[AI学术] 继承作为LLM提示合并算子准入测试

发布于:2026-10-23 22:00 最后更新:2026-10-25 13:04
#algorithm #Machine Learning #LLM

大型语言模型(LLM)代理常通过迭代直至固定验证器饱和来提升性能。验证器一旦饱和,循环便失去提升空间。我们改为将代理与当前种群比较,并使用冻结面板记录是否有人取得进步。面板均值可以仅通过淘汰而上升。因此,仅当一次运行的最终均值超过生成零代的最佳成员时才计为一次训练。

合并算子只有在子模型相对于供体的移动超过该算子在零剂量时产生的移动,并且该移动的下置信界至少达到请求剂量的一半($\frac{d}{2}$)时才被准入。这就是准入测试。若检测到明显不足则拒绝算子,否则结果未确定。

我们保留实现适应度 $\phi$ 作为选择器,参考性能 $\theta$ 作为未使用的标尺。所有测量均使用 gemini-3.1-flash-lite 在单一谈判任务上完成,未运行固定 oracle 臂。

实验结果显示:在开放回路中,tactic‑append(附加策略) graft 短供体规则并被准入;free‑rewrite(自由重写)仅移动三分之一请求剂量,被拒绝;template‑append(模板附加)在首次探测清除下界但在复探测未通过,结果未确定。持出复探测在五种未见情境下证实两种附加均产生移动,且 free‑rewrite 未被拯救。两种附加的剂量提升均未出现。

在闭环中,仅改变算子而保持种群、分数和任务不变。没有任何 free‑rewrite 运行能超过生成零代的最佳成员,而所有 tactic‑append 与 template‑append 均能。抽样循环子代保持该分割。free‑rewrite 不再向供体移动,两个附加仍清除下界,但幅度低于开放回路。

点评

原文链接: https://arxiv.org/abs/2610.29023

[h] 返回首页