$varepsilon$-MemEvo 是一种用于 LLM 程序演化的跨任务知识传递框架。它将先前的经验存储为任务无关的策略记忆：成功算法策略的紧凑自然语言摘要，而不是原始代码。这使得记忆可以在具有不同 API 和评估器的任务之间传递。为了避免来自语义不匹配记忆的负面传递，$varepsilon$-MemEvo 使用一个自适应的注入门来决定是否注入检索到的记忆以及注入的强度。我们在 8 个不同的优化基准上评估了 $varepsilon$-MemEvo，这些基准涵盖了数学优化和系统工程，使用了一个内容级别的 Leave-One-Out 协议，该协议排除了目标任务的记忆条目。在 GPT-5 主干上，$varepsilon$-MemEvo 比 AdaEvolve 在所有 8 个任务上提高了 AUCC，平均相对增益为 +8.7%，并且在早期收敛阶段平均提高了 +9.4%。消融实验表明，简单的记忆注入可能会灾难性地失败，而自适应门控在所有五个消融任务中仍然是安全的。数据更新的后验在观察状态下是可解释的：它偏爱在搜索改进期间跳过并在早期和晚期高原之间从跳过到提示转变。这些增益只需要不到 1% 的计算开销。
博主点评： $varepsilon$-MemEvo 框架为 LLM 程序演化提供了一个高效的跨任务知识传递方法，通过自适应的记忆注入门控提高了搜索效率和收敛速度，在多个优化基准上展示了其优势。