摘要
神经架构搜索（NAS）方法变得越来越高效，但仍然受限于需要大量领域专业知识的手动设计搜索空间，并且每个新任务都必须重建。大型语言模型（LLMs）能够在开放空间中生成架构，但如何在 LLM 驱动设计与 NAS 驱动搜索之间优化分工仍未探讨。我们提出了一种机制，连接这两种范式：LLM 生成高质量的种子架构，然后将其分解为“插槽架构”，这是一个具有命名和可互换模块插槽的支架，自动定义了一个有界的、特定任务的搜索空间供传统 NAS 探索，而无需人工工程。
我们在 AgentNAS 中实例化了这一机制。AgentNAS 是一个模块化的三阶段管道，其中每个组件的贡献都可以独立测量。在涵盖分类、密集回归、分割和多标签标记的 17 个任务（NAS-Bench-360 和 Unseen NAS）中，AgentNAS 在 11 个任务上建立了新的最先进水平，超越了包括特定任务专家设计在内的已发布基准。
消融研究表明，这两种搜索机制是广泛互补的：LLM 生成的种子架构已经在大多数任务上超越了已发布的基准，而 NAS 通过跨插槽的组合重组在大多数情况下提供了额外的增益，这种搜索模式是独立 LLM 样本无法复制的。这些模式在三种不同能力水平的 LLM 上都得到了验证，确认了分工的可靠性。
我们的代码可在 GitHub 获取。
博主点评： AgentNAS 的提出不仅提升了神经架构搜索的效率，也为 LLM 与 NAS 之间的协作提供了新思路。通过有效的任务特定搜索空间设计，AgentNAS 展现了在多任务环境下的强大潜力，值得深入关注和研究。