LLM 引导的进化搜索通过 AI 代理迭代改进程序,但每轮需要 LLM 生成长文本链,导致搜索速度缓慢。\n\nSwarmEvolve 框架在每轮部署数百个低成本代理,这些代理在潜在空间中推理并共享 KV 缓存,无需将内部表征解码为文本。每个群体从不同视角审视问题,形成多样化的搜索方向。\n\n新颖性过滤器直接测量代理隐藏状态向量之间的距离,只保留最具区别性的想法。交叉在潜在空间自然发生,汇总代理接收所有成员的 KV 缓存并生成综合方案。\n\n在 21 项数学发现和科学计算任务上,SwarmEvolve 获得最高平均得分,仅用 3 到 8 分钟即可达到其他最先进框架需 60 分钟才能获得的最佳分数。使用 Qwen3 8B 时,SwarmEvolve 在若干问题上进一步改进了 AlphaEvolve 首先找到的解。\n\n工作表明,潜在空间通信的代理群体提供了一种快速、低成本的程序搜索方法,适用于各类科学问题。\n\n点评:SwarmEvolve 通过潜在空间的并行推理显著提升了进化搜索的效率,展示了大模型与多代理协同的潜力。