在提升大语言模型（LLM）代理的推理能力方面，有效地协调多种专家模型和工具至关重要。然而，现有框架通常基于任务与专家模型或工具功能之间的粗粒度匹配调用API，忽视了性能变异性和成本效率等关键因素。为此，我们提出了Agora，一个引入激励兼容拍卖机制的框架，用于动态分配任务给专家模型和工具。
Agora将推理步骤视为可交易项目，使得代理可以根据其经过修正的能力进行竞标，确保关键逻辑被路由到最有能力的解决者，而不是最自信的解决者。通过在五个基准测试中的评估，Agora在与匹配的单模型、路由和级联基线相比较时表现出显著改善，同时通过单一拍卖参数揭示了可控的成本与质量权衡。
博主点评： Agora框架通过引入拍卖机制，巧妙地解决了传统模型在任务分配中的局限性，特别是在性能和成本之间的平衡问题。这种创新方法不仅优化了推理过程，还为多模型协作提供了新的思路，值得关注与深入研究。