NeFut Logo NeFut
EN 管理员登录

[AI学术] 通过推理实现多样性:利用LLM群体智慧进行未来预测

发布于:2026-08-26 22:00 最后更新:2026-08-29 12:04
#AI #Machine Learning #LLM

大型语言模型(LLM)正被广泛用于未来预测,因而出现了将多模型视为群体智慧的思路。然而,仅靠扩大模型数量并不能保证真正的多样性,因为不同模型可能表现出高度冗余的行为。为此我们提出了一套行为感知框架,用于构建多样化的LLM群体。框架首先在若干独立的开发任务上收集每个模型的推理轨迹,将这些轨迹视为行为特征;随后利用 K-means++ 对模型进行相似度聚类;最后从每个簇中挑选出代表模型(即簇的中心或 medoid)组成预测群体。我们在 25 种 LLM 上执行了七个开发基准,用以构建行为多样性模型,并在两个未来预测基准上评估群体性能。实验表明,群体组成的影响往往超过规模本身:基于行为聚类得到的三模型 medoid 群体在两个预测基准上均超越了对全部 25 模型的传统投票方案,同时模型调用次数下降了 $88\%$,推理成本约降低 $80\%$。进一步分析显示,代表性的行为多样性比单纯追求最大化多样性更关键。

博主点评:该工作提醒我们,在大模型时代,精心挑选少数具备互补推理路径的模型,往往比盲目堆砌更多模型更具性价比,值得在实际系统设计中推广。

原文链接: https://arxiv.org/abs/2608.24001

[h] 返回首页