NeFut Logo NeFut
EN 管理员登录

[AI学术] Repo-To-Skill:将 GitHub 仓库蒸馏为 AI4AI 技能

发布于:2026-09-03 22:00 最后更新:2026-09-04 02:14
#AI #Machine Learning #LLM

自主代理已经能够端到端完成机器学习(ML)研究。它们通常由模型主干和用于规划、执行、记忆、验证的框架组成,但仍缺少领域特定的操作知识——即把方法落地的诀窍。这类知识散落在代码仓库和论文中,面向人类阅读且体积庞大,难以在任务执行时直接加载。

如果将这些知识蒸馏为紧凑、可验证的技能,就可以在不同任务之间复用,而不必每次重新发现。我们提出了 DisCo,一个基于技能的研究代理,它能够生成技能并在研究过程中调用。蒸馏过程分为两种模式:任务无关的方式把广泛使用的仓库压缩为通用技能;任务导向的方式为具体任务定制所需技能。

在开放生态系统中应用任务无关的蒸馏,得到 AREX‑Skill 库,收录了 1,000 个常用 ML 仓库中提炼出的 5,000 多个经过验证的技能,覆盖 20 个领域和 178 个能力族。使用 GPT‑5.5 作为模型主干、固定的研究框架和执行预算,配备技能的代理在 MLE‑bench 上提升 134.3%,在 PaperBench 上提升 34.4%,在 FrontierCS 上提升 9.2%,在 PassNet 上提升 14.0%,相较于未使用技能的同类代理。这些提升全部来源于在相同设置下加入的蒸馏操作上下文。

点评:DisCo 展示了通过系统化提取和复用操作知识,可显著提升自主研究代理的效率和成果质量,为 AI‑4‑AI 生态提供了可扩展的技能基础。

原文链接: https://arxiv.org/abs/2609.02749

[h] 返回首页