是否在不同模态上训练的模型会收敛到相同的世界表征是 AI 的核心问题。
柏拉图表征假设（PRH）认为，随着模型规模增长，这种收敛会自然发生，但缺乏形式化证明。我们将该假设升格为定理，并给出 柏拉图表征定理：只要正样本对是同一场景的两个观测（即 好视角），并且负样本的错位有界，任意数量模态上分别训练的联合嵌入预测架构（JEPAs）会学习出仅相差一个旋转 $R$ 的相同表征。
进一步，我们指出下一词预测实际上是使用 坏视角 的 JEPA——它只看到同一文档的不同片段。因此语言模型只能通过大规模训练才会与视觉模型对齐。
实验覆盖 14.5 万张带字幕的图像到 9.4 亿张网页图像的文本。我们发现对齐遵循一个标度律：在相同语料上，好视角只需约 42 倍更少的样本即可达到与下一词预测相同的对齐程度。一个 1.09 亿参数的文本 JEPA 能够比我们评测的所有语言模型（最高 720 亿参数）以及 CLIP 的文本编码器更好地对齐 DINOv2 与 CLIP 的图像编码器。
利用学习到的旋转 $R$，单独训练的图像和文本编码器即可直接组合成图像字幕生成器（在 COCO 上获得 CIDEr 0.838）。即使在最新的无配对基准上，这一旋转也不需要任何配对数据，就能使文本 JEPA 超越所有参数不超过 80 亿的语言模型的零样本准确率，例如在 ImageNet‑100 上达到 64% 的 top‑5，而最高对手仅为 56%。
因此，正视角而非单纯的规模才是构建柏拉图表征的关键杠杆。
点评