多代理大语言模型(LLM)系统在临床任务上往往表现更好,很多人把性能提升等同于系统更可信。但临床决策依赖的是完整的推理过程,而不仅是最终结论。因此,需要在系统生成的推理中评估幻觉,而不仅仅是答案。我们对四种系统(单模型基线和三种多代理拓扑)在四个模型、三项临床任务上进行实验,使用事实性和忠实性两维的幻觉分类法,对每个系统的推理过程进行打分,并与任务指标一起报告。实验结果显示,协作能够提升任务表现,但并未系统性降低幻觉;不同拓扑之间也没有可靠的优劣差异。影响幻觉变化的关键是模型本身,而非拓扑或代理数量。在 $36$ 次模型‑系统‑任务组合中,只有 $12$ 次差异显著,其中 $4$ 次幻觉下降,$8$ 次幻觉上升,且没有任何模型在两方面同时出现。自我纠错实验进一步验证:在展示自身标记的错误后,除 Llama-3.2-3B-Instruct 外,所有模型的幻觉均有所降低;而 Llama-3.2-3B-Instruct 的幻觉不仅未降低,反而被放大。由此可见,协作只是重新分配模型已有的能力,并不能弥补模型本身的不足。
点评