自回归（AR）模型在生成时倾向于局部贪婪，导致长程依赖难以保持；而扩散语言模型（DLM）虽然支持并行生成，却缺乏严格的因果结构，难以进行可靠推理。为兼顾两者优势并克服其缺陷，本文提出因果潜在修正（CaLR）框架，将推理过程重新表述为受约束的潜在空间优化。CaLR 从一个专家模型中提取因果拓扑矩阵（CTM），利用隐式微分技术在潜在空间中计算梯度，并据此执行“思考修正”。该过程在并行生成的每一步动态校正中间结果，使得生成序列始终满足逻辑一致性。实验表明，CaLR 在复杂基准上实现了 DLM 的最新水平，显著超越强基线的 AR 模型，并在数独等约束任务中展现出更高的鲁棒性。
点评