在仓库操作中，标准操作程序（SOPs）控制着复杂的多系统决策逻辑，这些逻辑必须在严格的时间限制下可靠执行。然而，现有的LLM代理缺乏强制遵循程序的机制，并且在面对完整SOP规范带来的上下文过载时表现不佳。为此，我们提出了Eluna，这是一个用于可靠SOP执行的生产部署代理系统。
Eluna是一个图引导的多代理框架，将SOP编码为有向无环图，并通过渐进式披露将独立任务委派给并行子代理。每个子代理具备持久的代码执行和实时数据访问能力。为了满足生产中的延迟和准确性需求，我们采用了不对称的情节蒸馏方法：首先，通过情节错误记忆改进强教师模型，然后对一个较小的学生模型进行微调，使其在去掉记忆的情况下内化这些纠正，从而避免推理时的开销。
在一个包含13个任务的基准测试和两个生产应用中，我们微调后的模型在表现上与其教师模型持平或超越，击败了所有较大现成模型，并在票据处理应用中达到了94%的专家一致性。
博主点评： Eluna通过图引导的多代理框架有效解决了仓库操作中的复杂性和实时性问题，其不对称情节蒸馏方法在提升模型性能的同时，降低了推理负担，极具实用价值，标志着LLM在工业应用中的又一突破。