摘要
在大型语言模型（LLM）推理管道中，承诺的中间阶段何时能够弥补其成本？约束路径推理（CPR）将源感知路径假设与阶段级会计相结合。搜索生成临时状态；可信或验证的不变条件可以严格限制，而其他提案则保持软性和可修订性。CPR 预测任务兼容的承诺能够影响转移、集中候选质量、诱导规律性，并在收益超过传播误差和执行成本时暴露反馈。
这一形式化方法涵盖离散承诺和连续流，并衡量有效分支、端点集中和每个可用输出的成本。在生成的 1,180 个 QCQP 和 40 个工程化的退化多项式实例（共 2,140 个端点）中，残余分类恢复了修复全部额外可行产出的 63.0%，而尝试比例为 17.7%。固定 LLM 会计（270 个在嵌套臂中共享的唯一调用）发现可用产出分别为 41.1% 直接、90.0% 在形式化和确定性执行后、20.0% 在一次性凸化后，以及 21.1% 对于全路径。在 120 个配对条件调用中，双动作回滚规则实现了 90% 的可用产出，相比之下，反馈条件选择器仅为 36.7%。
两个端点探针将源与验证分离：72 输出的交叉轨迹移植降低了熵和可接受质量；而 24 输出的同调用自提案试点则保持未改变的两次重复碰撞熵，分别为 25.0% 和 8.3% 的可用产出，以及 1/8 确定性确认的端点检查。模型生成的状态提供假设；可信执行增强了约束强度。
博主点评： 约束路径推理为理解 LLM 中间阶段的成本效益提供了新视角，强调了任务兼容性和反馈机制的重要性。这种方法不仅在理论上具有贡献，同时也在实际应用中展现了其潜在价值，尤其是在优化模型性能方面。通过量化不同阶段的产出，我们可以更好地设计和优化推理流程。