NeFut Logo NeFut
EN 管理员登录

[AI学术] 更多规则,更长列表?在隐藏规则课程上对自我进化代理进行基准测试

发布于:2026-11-03 22:00 最后更新:2026-11-05 00:45
#AI #Machine Learning #LLM

自我进化代理通过反馈不断改写持久状态,但尚未充分验证它们是否能够在未被显式告知的情况下学习隐藏规则。我们提出 CLR‑Bench——潜在规则课程基准。每条链在前一层的基础上额外加入一个隐藏规则,规则作用于一个不透明标签,该标签对应网络上已命名的分组(例如某航空联盟的创始成员)。任务提供一个示例值,练习阶段的反馈会揭示一个成员和一个非成员,测试阶段则检查未见过的成员以及相似的非成员。探针确保基础模型已知每个分组的成员且在没有反馈时不会自行猜测,并且一旦标签被读取为命名分组,证据即可识别该分组。我们构建了自动化流水线,可从新数据域生成链条,现已公开 10 个域下的 20 条链。我们评估了六种近期的自我进化方法。使用认证模型时,它们几乎没有学习效果,最佳提升仅比冻结代理高 5 分,且只能排除 6‑12% 的未见成员,远低于直接使用原始练习历史可达的 20%。加入一条固定课程——说明命名分组约定——即可将这些方法提升 14.5‑16.5 分。它们的状态在 75‑98% 的情况下保留了被揭示的成员,却几乎不包含类名;当练习阶段出现列表遗漏的成员时,代理会将其加入列表。使用更强的 GPT‑6‑Sol,ACE 与 Dynamic Cheatsheet 仅凭反馈即可学习,准确率达到 78%,单元格解答率为 59‑60%,相较于认证模型的 53% 与 8% 有显著提升,并且超越了原始历史记录。由此可见,CLR‑Bench 能有效衡量代理的学习能力,而不同模型之间的表现差异显著。

点评

原文链接: https://arxiv.org/abs/2610.40758

[h] 返回首页