Decision 模型在一次前向传播中为每个选项输出一个概率，类似双过程理论中的快速 System 1，能够一次性给出答案。但它们的推理深度在训练时就固定下来，无论问题容易还是困难，都消耗相同的计算量。相比之下，基于生成文本的模型可以通过增加解码步数来延长思考时间，却要为每个额外的 token 支付代价。
我们提出 LEV（Looped Decision Model），它通过在模型层之间循环多次来实现更深的思考，而不是生成文本。LEV 以循环方式预训练语言模型，在每一次循环后读取所有选项，并对所有循环步骤进行联合训练，使得同一个检查点能够在任意深度给出答案。
在三种循环骨干网络上实验表明，随着循环深度的增加，准确率稳步提升，尤其在难题上提升显著。例如，2.6B 参数的 LEV 在 JevBench 上的准确率从深度 1 的 63.2% 提升到深度 4 的 76.2%。
我们还引入了基于小型 stopper 的按需深度控制机制，利用在未标注请求上拟合的阈值为每个问题动态决定循环次数。该机制可节省 15%~24% 的计算量，准确率下降不足 1 个百分点，表现与固定深度混合策略相当或略优。
在锁定测试集上，1.4B 与 3B 参数的 LEV 分别比同等延迟的稠密（非循环）模型和级联模型提升 5.4~8.8 个百分点，且推理延迟保持在 50 ms 以下。
点评