大型语言模型（LLM）正被广泛用于模拟和探测人类行为，例如在调查问卷中。此类应用的关键要求是分布对齐——模型输出的分布需要与参考分布（这里指人类分布）保持一致。实现分布对齐的主要难点在于如何从有限的训练数据中实现有效的泛化。本文围绕两个问题展开：一是如何实现 LLM 的分布对齐，二是对齐后的模型在未见样本以及不同主题和任务上的泛化表现。我们使用两个大规模基准进行实验，结果显示：在相同领域的未见问题上，LLM 能够保持分布对齐并实现有效泛化。跨主题的泛化则取决于主题之间的关联程度，例如政治类问题与对制度信任的关联会提升跨主题迁移能力。然而，对齐后的 LLM 也可能出现意外退化，例如创意能力下降，这表明其泛化属性本质上具有不可预测和不稳定的特征。
点评：本文提供了对 LLM 分布对齐的系统性研究，揭示了在有限数据条件下实现对齐的可行性以及跨主题泛化的依赖因素，同时提醒我们在实际应用中需警惕模型潜在的能力退化风险。