NeFut Logo NeFut
EN 管理员登录

[AI学术] 多智能体聚合的偏差控制与注入

发布于:2026-10-16 22:00 最后更新:2026-10-18 08:05
#AI #Machine Learning

多智能体推理使用大语言模型(LLM)时,集体决策面临一个核心问题:当智能体之间出现分歧时,应该信任哪一个的决定?这种分歧难以解决,因为智能体的答案容易受到非语义偏差的影响,例如多数压力和回答风格偏好,这会掩盖底层推理的质量。我们的分析表明,偏差既可以被抑制,也可以被利用:偏差控制能够提升初始答案的选择质量,而偏差注入则通过制造决策不稳定性提供可靠性信号。基于这些发现,我们提出了一种测试时聚合框架,该框架既不依赖验证数据,也不需要事先了解模型之间的相对强弱。框架的实现方式包括:对每个不同答案只展示一次经过风格归一化的推理过程,以实现偏差控制;并将每个聚合智能体最初选出的答案置于少数,以实现偏差注入。实验在三个数学推理基准和四种异构 LLM 组合上进行,对比了多种非 oracle 聚合方法,结果显示我们的框架在平均准确率和 token 效率上均有提升。将该框架应用于多智能体辩论和混合智能体(Mixture‑of‑Agents)时,也能在不修改交互或合成过程的前提下提升最终答案的准确性。

点评:该工作通过巧妙的偏差调节,在无需额外数据的情况下显著提升了多模型聚合的可靠性和效率,为实际部署提供了可行的思路。

原文链接: https://arxiv.org/abs/2610.21290

[h] 返回首页