最近的提示、程序和机器学习工作流优化系统通常依赖于外部控制器，如进化搜索、多臂带子算法或文本梯度方法。然而，我们提出一个不同的问题：代理可以内部化多少搜索策略？我们引入了 ReASearch 框架，这是一个统一的推理驱动优化框架，代理可以自主决定评估什么、如何诊断失败、进行哪些编辑以及何时验证或重启。 与传统的基于手动设计的启发式算法不同，代理可以积极分析结果、分配预算，并通过持久化内存在长时间范围内改进其策略。 ReASearch 框架使用共享的代理循环和特定领域工具来优化提示、程序和机器学习工作流。在 14 个不同的任务中，ReASearch 与专用优化系统具有竞争力，并且在大多数情况下表现更好，相比强大的特定领域基线，获得了 2% 到 40% 的改进，并在某些情况下发现了优于以前人类最佳已知结果的解决方案。 博主点评： ReASearch 框架为优化问题提供了一个新的视角，通过将代理与推理过程相结合，实现了更高效和有效的优化。这种方法有可能在各个领域带来突破性的进展，并且值得进一步的研究和探索。