NeFut Logo NeFut
EN 管理员登录

[AI学术] 从流畅性谬误到微观‑宏观有效性鸿沟:LLM 在社会模拟中的机遇与陷阱

发布于:2026-10-14 22:00 最后更新:2026-10-18 08:05
#Machine Learning #LLM #Artificial Intelligence

将大语言模型(LLM)引入社会模拟激发了广泛兴趣,但也带来了方法论和认识论层面的挑战。我们从计算社会科学的视角审视 LLM 作为模拟主体的认知或决策组件,指出其行为和认知局限在扩展到多主体社会时可能演化为系统性脆弱性。

平台形态正从以叙事为主的沙盒逐步演进到覆盖整个人口规模的模拟环境。基于此演化,我们提出“微观‑宏观有效性鸿沟”框架,系统化描述微观层面的局限——如幻觉、随机不一致、表征偏差和对齐效应——如何在代理层面产生人格趋同等失真,并进一步在宏观层面导致人工共识或行为同质化。

评估过程中常见的陷阱包括流畅性谬误,即误以为语言流畅等同于推理正确,以及自动化偏差导致对模型输出的盲目信任。

在特定情境下,LLM‑驱动的主体仍具操作价值,例如严肃游戏、参与式环境和探索性建模,这些场景侧重于交互体验和假设检验,而非用于约束模型的确认性研究或精确的社会预测。

理论驱动的混合架构尝试将 LLM 嵌入显式、机械化且可复现的主体‑基模型(ABM)框架。尽管这种设计提升了可解释性,但并不自动保证认识论控制;有效性仍需在环境动力学、个体行为、跨层交互以及聚合结果等多个层面进行评估。同时,这类系统仍面临“物理洗涤”风险,即模型倾向于遵循物理直觉而忽视社会复杂性。

点评:LLM 在社会模拟中的潜力不可否认,但研究者必须警惕微观局限的放大效应,采用多层次验证并结合机制化模型,以防止流畅性误导和系统性偏差的累积。

原文链接: https://arxiv.org/abs/2507.19364

[h] 返回首页