摘要
多智能体语言模型系统日益依赖局部交互,但运行时交互图常被视为实现细节。我们研究了在开放权重语言模型(参数从 1.1B 到 32B)中,使用命名游戏协议的约定形成。通过对标记安全标签的限制首个标记分数,我们能够测量基于提示的得分状态分布,构建状态相似性图,并将采样标签一致性与潜在状态空间共识分开。
在主要的开放权重修复网格中,保留的伙伴标签证据是必要但不足的:同质阈值相似性路由会删除跨流域的曝光并加剧碎片化,而寻找桥接的路由在有可用内存时通常能修复碎片化。在一个三种种子混合的四模型网格中,阈值相似性在 189 次设置种子运行中没有产生最终的行为或状态共识,而状态组件和标签不一致的桥接在 18 次保留内存的运行中恢复了最终的行为共识。
在同质模型群体中,保留的历史通常将碎片化动态转向共识;最明显的例子是 Qwen2.5-32B,在所有 18 次保留历史的混合设置中达成了稳定的行为和最终状态共识,而阈值相似性在 189 次设置中都未能达到任何形式的共识。状态阈值、群体规模和词汇规模的鲁棒性保持了定性的排序,早期窗口图能量特征为网格内的诊断提供了有用的信息。
博主点评: 本文探讨了开放权重语言模型中图反馈机制对共识形成的影响,显示了模型内部交互的重要性。通过精确的实验设计,揭示了不同路由策略如何影响模型行为,具有重要的理论与实践意义。理解这些机制有助于提升多智能体系统的协作能力与效率。