NeFut Logo NeFut
EN 管理员登录

[AI学术] OrchSLM:小语言模型编排动态探究

发布于:2026-09-15 22:00 最后更新:2026-09-16 00:22
#Machine Learning #LLM #Artificial Intelligence

虽然大语言模型(LLM)在能力上表现突出,但它们依赖云规模基础设施,导致延迟、隐私、网络和算力成本等问题。

在许多代理工作流中,重复且范围狭窄的子任务可以由专门的小语言模型(SLM)更高效地完成。然而,SLM 的容量和上下文窗口有限,难以支撑长程推理和需要多轮交互的编排方式,如迭代验证和辩论。

为此,研究提出一种非交互式范式:让异构 SLM 独立生成候选答案,随后由路由器在缓存的样本中进行调度,而不再调用模型。

为系统化研究这种编排机制,本文推出 OrchSLM 框架,它统一了已有的非交互式编排方法,并将关键设计暴露为可调参数。通过系统化实验,发现编排行为受任务结构、模型池组成以及多代理共识等因素显著影响。

点评

原文链接: https://arxiv.org/abs/2609.13470

[h] 返回首页