NeFut Logo NeFut
EN 管理员登录

[AI学术] 学习保留内容:用于多代理 LLM 系统高效协作的门控记忆路由

发布于:2026-09-02 22:00 最后更新:2026-09-03 02:56
#algorithm #Machine Learning #Artificial Intelligence

大型语言模型(LLM)驱动的多代理系统通过配置多个代理并让它们协作来处理复杂推理。核心难点在于如何根据协作过程的演变动态调整编排。仅依据查询进行路由无法感知中间进展或错误,导致准确率下降。使用完整执行历史作为上下文虽能提供缺失信息,却迫使后续决策处理所有先前步骤,包括冗余或低价值的部分,产生执行历史负载并显著提升成本。有效的编排需要一种紧凑的状态表示,能够捕获有用进展而不累积冗余信息。我们提出门控记忆路由(Gated‑Memory Routing),在每一步决策时同时考虑查询和学习得到的执行记忆。记忆写入门(Memory Write Gate)仅在推理步骤非冗余时写入记忆;检索门(Retrieval Gate)为每个代理提供紧凑且相关的记忆子集,使得决策基于干净且信息丰富的状态。系统在每一步从记忆中选择下一个角色和骨干模型,且自适应停止控制器(Adaptive Halting Controller)在记忆中已包含足够答案证据时终止执行。我们在五个推理和代码生成基准上评估,框架在平均准确率上领先最强基线 2.44 分,同时在 HumanEval 推理成本上相对基线降低 31.9%。代码已开源:https://github.com/rajibrhasan/gated-memory-routing

点评

原文链接: https://arxiv.org/abs/2609.00237

[h] 返回首页