一个学会了小数相加的孩子能够把任意长度的数字相加。相反，LSTM 和 Transformer 在只见过短序列的训练后，面对更长的序列会失效。根本原因在于学习者在做决定时所读取的信息。\n\n当输入长度增长时，位置、计数或时间等变量会不断取新值——它们是坐标。读取单一坐标的学习者在每个更长的输入中都会遇到先前经验从未覆盖的值。判断两个事物是否相同在任意规模下都有两种答案：要么是巧合，要么不是。只读取巧合的学习者在长输入中找不到短输入所缺失的东西，因此有限的经验能够为所有规模固定一条规则。\n\n记忆携带输入的规模，而规则保持有限，这决定了能够泛化的大脑记忆必须是：记忆随输入增长而增长，但学习者读取的部分保持有限且在每个位置看起来相同。于是记忆由循环构成，过去可以通过询问“当这些循环上一次位于当前位置时发生了什么”来访问。循环对应于网格模块，检测循环返回的细胞是位置细胞，记录循环的结构是海马索引；前额叶控制器移动这些循环，却从不直接观察它们。\n\n只读取巧合不需要额外能量：在这种学习者中，有限经验固定的正是图灵机在输入同步下能够计算的内容，这解释了为何一种为寻找回家路径而进化的电路也能学会算术和语法。\n\n在神经网络中，这套循环机器表现为通过对称性可见的动力学，符号则是其不变量。我们在长度最多 40 的字符串上训练该机器，在 41 到 500 长度的九个基准任务上平均正确率至少为 99%，其中五个任务是 LSTM 与 Transformer 完全无法解决的。给模型提供新的循环后，它能够无误地逆转 15,015 长度的字符串，超过该长度后错误率随理论预测的曲线上升；而其控制器在真实神经元上运行时保持不变。\n\n点评：本文提出的循环‑网格记忆模型为解释有限大脑如何实现无界泛化提供了可实验验证的框架，展示了空间记忆与通用计算之间的深层联系。