NeFut Logo NeFut
EN 管理员登录

[AI学术] 基于大语言模型的多智能体系统风险传播估计

发布于:2026-10-27 22:00 最后更新:2026-10-29 00:58
#algorithm #LLM #Artificial Intelligence

大型语言模型(LLM)驱动的多智能体系统面临一种独特的可靠性挑战:上游智能体的行为会影响下游智能体的正确性。已有研究关注错误传播并尝试估计来自上游的不确定性,但这些方法并未显式建模已实现的发送者‑接收者交互在不同发送者正确性状态下对下游错误风险的贡献。

本文从多智能体执行轨迹出发,研究智能体层面的错误风险估计。我们提出交互效应传播(IE‑Prop)模型,该模型在条件上为正确和错误的上游智能体学习独立的影响。对于每一次发送者‑接收者交互,模型使用发送者的估计错误风险对这两种条件效应进行加权组合,并在执行图中递归传播得到的风险估计。

我们在三种多智能体架构和三套基准上进行评估。结果显示,在所有架构上,IE‑Prop 相比既有基线提升了约 0.05 的最终节点 AUROC。进一步地,在顺序系统中跟踪多步风险还能额外带来约 0.03 的 AUROC 增益。

这些实验表明,实际的智能体间交互提供了超出接收者本地证据的预测信息;而多步风险追踪的价值则取决于系统的信息流结构。

点评: IE‑Prop 通过区分正确与错误上游行为的影响,实现了更细粒度的风险传递建模,为提升多智能体系统的可靠性提供了实用思路。

原文链接: https://arxiv.org/abs/2610.33282

[h] 返回首页