摘要
紧凑世界模型依赖于语言目标来实现空间关系的基础，例如“将红色方块放在蓝色方块左侧”，并使用一组稀疏的显式参考锚点。我们探讨了何时这些参考点真正能扎根于关系中，并识别出一个陷阱：目标条件预测器达到惊人的 $0.90$ 关系读取准确率，但这实际上是指令抄写，而非感知。
当不提供目标时，准确率降至偶然的 $0.27$（三次实验），且反事实指令使得预测的锚点在 $94.5\,\text{perthousand}$ 的时间内遵循错误指令（真实场景 $2.3\,\text{perthousand}$；$N=256$）。
我们在三种设置和一次任务内部消融测试中验证了我们的核心主张：
指令泄漏发生在可从指令中转录的评分量时（当指令明确命名答案时），且与非指令输入的预测能力基本无关。 我们的桌面实验和外部 BabyAI 基准测试存在泄漏，而一个名为“语言-表格”的前向动态世界模型，在指令中命名“指代物”时并未出现泄漏，直到指令被扩展为命名方向；并且降低动作从未增加泄漏，正好与预测器竞争的预期相反。
诊断结果提供了解决方案：将目标排除在动态之外（目标应属于规划者的成本），并监督“读取”路径，从而恢复真正的、独立于指令的基础（$0.88$，无论是否有目标均相同）。检测协议和补救措施适用于任何指令命名评分量的目标条件世界模型。
博主点评： 本文深入探讨了紧凑世界模型中的指令泄漏问题，强调了指令与感知之间的区别，提出了有效的解决方案。这一研究对于构建更为准确的语言理解模型具有重要意义，值得关注。