NeFut Logo NeFut
EN 管理员登录

[AI学术] 揭示大语言模型的从众效应:去除发言者的影响

发布于:2026-07-09 22:00 最后更新:2026-07-10 03:15
#algorithm #AI #Machine Learning

摘要

大语言模型(LLM)的从众效应常用来描述模型在面对同伴或群体响应时,如何调整原本正确的答案。我们发现,即使去除同伴,这种表面上的从众现象依然存在。其原因在于一个混淆:标准的从众提示同时混合了两个线索——发言者的存在和重复的错误答案。现有的基准测试将这两个线索一起变化,因此无法确定修正的程度究竟依赖于发言者的影响。

方法

我们引入了一种无源条件:在移除显式发言者的情况下,保持相同的陈述答案。在对六种开放权重的LLM和七个问答及推理数据集的测试中,仅此条件就导致66.5%的原本正确案例发生有害修正,而在简单重询时这一比例仅为10.3%。这一效应在答案被改述时依然存在,并且在开放式设置中,当答案选项被隐藏时也如此。

结果

源框架主要调节这一底线:专家小组框架会提高这一底线,而最小化的个人标签则不可靠地提高它。当模型出现反转时,通常是自信地错误,而简单的重新校准并不能恢复原始答案。源归属仍然重要,但应当作为超过这一去发言者底线的增量来衡量。

方法论启示

从众基准应首先测量在去除发言者后剩余的部分;若不进行此步骤,基准可能会将重复文本误认为社交影响。

博主点评: 本文揭示了大语言模型在面对同伴压力时的复杂性,强调了发言者的影响在从众效应中的关键作用。通过去除发言者,研究者能够更清晰地理解模型在面对重复信息时的反应,为未来的基准测试提供了重要的改进方向。

原文链接: https://arxiv.org/abs/2607.05545

[h] 返回首页