Sep-Latent 是一种自适应隐式推理框架，利用分隔符 token 作为结构语义锚点。通过 Attention‑Decay 机制，模型在训练时被迫将推理逻辑聚合并压缩到这些锚点上。随后在所有层进行多层蒸馏，使显式 CoT 路径与隐式路径保持逻辑一致。框架还能根据查询复杂度动态决定潜在思考阶段的终止深度，从而实现可变推理深度。实验在 GSM8k‑Aug 基准上取得 56.8% 的准确率，平均仅消耗 5.4 个 token，显著优于固定长度隐式模型的效率，并缩小了与显式 CoT 的性能差距。进一步的 PCA 分析和符号变体测试表明，方法能够保持语义 grounding，且对扰动具有更强鲁棒性。
点评