本文研究了在视觉风格、动力学、控制方式和目标各异的虚拟世界中，持续预训练（CPT）是否能像在真实物理环境中那样提升具身学习。我们在数据量、数据多样性和模型规模三个维度上进行受控实验，构建了 120 组训练配置，模型规模从 0.8 B 到 27 B，数据预算从 50 小时到 1600 小时，数据混合从仅 Minecraft 到跨多世界的多样化语料。评估采用三层验证损失和游戏基准，覆盖训练语料内的世界以及未见过的世界。实验发现：
-
增加数据量提升了语料内表现；多样性有助于向相关世界的迁移，但对遥远世界的提升有限；模型规模提升了数据效率，但在单一世界训练时对遥远世界的泛化能力下降。
-
训练过程呈现早期的“接口阶段”，跨世界收益广泛；随后进入“世界阶段”，收益主要集中在语料内及其相近的世界。我们拟合出一个经验性尺度律，将验证损失与数据量、多样性和模型规模关联。
-
在 3D 世界基准上，我们的模型与专注于 Minecraft 的模型以及最前沿的通用模型竞争，并在实时设置中表现最佳。然而，模仿学习的上限以及在遥远世界中持续存在的性能差距表明，仅靠持续预训练不足以打造真正的通用具身代理，需要更丰富的训练阶段。
点评