Generative Retrieval (GR) 将搜索和推荐视为离散语义标识符（SID）的自回归生成。SID 的设计决定了 GR 的质量，但其离散且相互依赖的组成部分（SID 构建、冲突处理、解码和训练）无法通过梯度端到端优化，仍主要依赖人工设计。本文提出一种框架，利用大语言模型（LLM）驱动的进化程序搜索来改进这些组件，这是首次将该方法应用于 GR。
我们使用本地部署的 31B 开源模型对可执行的 GR 组件进行突变，避免使用专有 LLM API；同时构建一个 1M 参数的代理解码器，在不反复训练 1B 目标生成器的情况下提供快速反馈。实验在 NQ320K 数据集上对 21 种 SID 程序进行评估，代理召回率 @100 与目标召回率的 Spearman 相关系数达到 $\rho = 0.90$，表明代理能够可靠预测真实性能。
在此代理的指导下，进化过程在 NQ320K、MSMARCO300K 以及一个多语言电商数据集上，以固定的训练配方提升了基线 GR。具体在 NQ320K 上，同时进化 SID 构建和冲突处理将 Recall@1 从 55.8% 提升至 59.3%，Recall@100 从 85.8% 提升至 90.6%。进一步的组件分析显示，代理的可靠性取决于搜索空间：对语义索引的改进能够稳定转移，而对生成器训练目标或完整流水线的改进则不一定可靠。
因此，只要为所选搜索空间验证了代理的可靠性，LLM 驱动的进化搜索即可成为 GR 设计的实用工具。
点评: 该工作展示了利用本地大模型进行程序级进化的可行性，为生成式检索的系统化优化提供了新思路。