NeFut Logo NeFut
EN 管理员登录

[AI学术] 超越经验:面向 NPU 内核生成的知识驱动进化

发布于:2026-10-22 22:00 最后更新:2026-10-25 13:04
#AI #Machine Learning #LLM

LLM 代理已经能够在主流 GPU 堆栈上充当内核工程师,但在 Ascend NPU 等新兴加速器上仍然受限,因为其编程模型在预训练数据中几乎没有出现。现有的 NPU 代理主要依赖经验:它们把自己生成和优化的尝试记入记忆库,并在后续任务中复用这些记忆。然而,仅靠经验难以支撑内核生成。代理只能记住已经尝试过的方案,且很少尝试未知的机制;当新算子需要全新实现方式时,记忆几乎没有帮助,即使是熟悉的算子在优化过程中也会出现未见情形。

为了解决这一瓶颈,我们提出 ASCENDEVOLVE。它在每一步进化搜索中都依赖一个由平台文档、工具链头文件和算子仓库构建的大型外部知识库。由于该语料远超任何上下文窗口,ASCENDEVOLVE 先对其建立索引,然后为每个任务检索出一小段相关证据,而不是直接加载整个语料库。检索到的知识用于种子多样化实现策略、在候选失败时提供修复指引,并约束强候选的重组方式。

在 CANN‑Bench 提供的 53 个 Ascend C 算子(覆盖四个难度层级)上实验,ASCENDEVOLVE 获得总体得分 71.39,分别比 Reflexion 和 OpenEvolve 提升 11.6% 和 17.2%。

点评:通过将平台级文档转化为可检索的知识源,ASCENDEVOLVE 将经验与显式知识结合,实现了对新算子机制的快速适配,展示了知识驱动进化在硬件特化编译中的潜力。

原文链接: https://arxiv.org/abs/2610.27588

[h] 返回首页