摘要
大型语言模型（LLMs）在多种情境中表现出较强的说服力。然而，尚不清楚这种说服力是否有助于准确性，或是恶意行为者是否可以同样轻易地利用LLMs来传播误信。
在本研究中，我们通过四个实验探讨了这一问题，参与者（N = 3996名美国人）与一款LLM进行讨论，讨论的主题为他们不确定的阴谋论。我们指示LLM分别为这一阴谋论进行反驳（“揭穿”）或支持（“支持”）。在多个前沿模型中（具有标准的保护措施，但允许撒谎），我们没有发现一致的真相优势证据：LLMs能够显著提高或降低参与者的阴谋论信仰。参与“支持”条件的参与者认为LLM更具信息性和合作性，并报告对AI的信任度高于“揭穿”条件的参与者。
更令人鼓舞的是，揭穿确实引发了更大幅度的信仰变化，并且后续的纠正措施能够逆转“支持”效果。此外，仅仅提示模型提供准确的信息就显著降低了“支持”的有效性，而一个强大的前沿模型（GPT 5.2）几乎完全拒绝推广阴谋论，这表明通过适当的保护措施可以促进准确信仰的形成。
最后，我们发现信息共享中存在明显的真相不对称：揭穿对参与者所撰写的模拟社交媒体帖子产生了较大的积极影响，而“支持”几乎没有效果。总体而言，我们的研究结果显示，人们对误导性AI的易受影响程度并不低于对信息性AI的易受影响程度，但潜在的技术解决方案可以降低这一风险。
博主点评： 本文探讨了大型语言模型在阴谋论传播中的双面性，揭示了这些技术在信息准确性与误导之间的复杂关系，强调了适当的技术措施在引导信念方面的重要性。未来的研究应继续关注如何优化这些模型以减少误导性信息的传播。