近年来，人工智能在信息获取方面的应用激增，尤其是大型语言模型（LLMs），如ChatGPT、Claude和Gemini，逐渐被用于新闻验证和消费。根据皮尤研究中心的报告，五分之一的美国青少年定期使用LLMs获取新闻，而四分之一的年轻人至少一次使用过这些工具。麻省理工学院媒体实验室的一项新研究揭示了这一趋势的潜在危害：研究发现，依赖AI系统验证事实的参与者，在失去聊天机器人后，识别虚假信息的能力反而下降，这一现象被称为“AI依赖悖论”。
研究追踪了67名参与者四周的时间，他们评估新闻标题和图片的配对。在使用AI聊天机器人时，参与者的假新闻识别准确率提高了21%，验证了MIT斯隆管理学院的先前研究，即AI可以有效减少人们对虚假信息的信任。然而，当AI不再存在时，参与者对新新闻项目的独立表现下降了15个百分点。尽管约四分之一的参与者认为自己在识别能力上有所提高，实际表现却在下降。
研究团队发现，定性分析显示出明显的行为模式，五分之一的参与者被标记为“依赖开发者”，逐渐从主动自信转变为被动接受AI的指导。某参与者在后期调查中承认了这一转变，指出AI虽然强调要跨多个来源验证故事的真实性，但并未教会他们深入探索图片的上下文。
研究还指出，这些AI模型在情绪激动的突发新闻中尤其容易出错，如特朗普最近的刺杀未遂事件和伊朗战争中的重大事件。同时，训练AI模型的原始人类新闻内容的可靠性和偏见问题也加剧了这一问题。
研究者表示，AI与用户的互动方式决定了其影响是“作为教练还是拐杖”。研究发现，某些对话策略能够更有效地支持用户的主动学习和技能发展。比如，使用苏格拉底式提问法的AI能更好地激励用户独立识别真相，而提供直接答案的AI则更可能导致依赖。
尽管本研究的样本量仅为约50个经过验证的新闻项目，且主要集中在美国和英国，研究团队希望未来能在更多地理多样的群体中进行类似实验，并探讨其他多模态互动策略的有效性。最终，研究希望能为教育者在将AI工具融入课程时提供参考，增强学生对AI作为学习工具局限性的认知。
博主点评： 这项研究揭示了AI在信息验证方面的双刃剑效应，虽然有效，但过度依赖可能导致能力退化。教育者需强调AI工具的使用方式，以培养学生的批判性思维和独立判断能力。未来的AI素养教育亟需加强，以应对快速发展的技术挑战。