摘要
机器学习工程（MLE）任务需要在迭代解决方案调试和优化中进行长期决策，而这些通常是在昂贵且反馈驱动的环境交互下进行的。开发和训练一个单一的代理来应对这些任务是极具挑战性的，因为它必须同时管理极长且嘈杂的上下文，探索广阔的解决方案空间，并在有限的模型容量和计算预算下保持有效性。
为了解决这些挑战，我们提出了马特里奥什卡代理（Matryoshka Agent），这是一个统一的分层代理框架，旨在处理复杂的长期任务。马特里奥什卡代理将代理问题解决分解为一个协调的决策和执行层次结构：高层的指挥者（Orchestrator）维护紧凑的长期探索状态并发出战略指令，而低层的子代理（Sub-Agents）通过标准化的工具接口直接与环境进行交互，执行具体的解决方案尝试。
这种设计将战略探索与昂贵的执行过程解耦，显著减少了长期上下文推理的负担，并使得高效的迭代优化成为可能。我们进一步为马特里奥什卡代理开发了一个高效的训练范式。在广泛的MLE任务上进行的实验结果表明，马特里奥什卡代理是一个有效且可扩展的长期MLE任务和复杂代理问题解决的范式。值得注意的是，马特里奥什卡代理使得Qwen3-4B-Instruct的指挥者性能达到了与o4-mini相当的水平，而将马特里奥什卡代理应用于Qwen3-30B-Coder则获得了最多36.7%的相对性能提升。
博主点评： 马特里奥什卡代理框架通过分层设计有效地减少了长期决策中的复杂性，展现了在机器学习工程中的巨大潜力。其创新的子代理机制不仅提升了性能，还为复杂任务的解决提供了新的思路，值得进一步探索和应用。