对大语言模型(LLM)进行完整解的抽样可以增加解决问题的机会,但每次尝试都会从头开始。对于包含多个子问题的任务,所有子问题的答案必须在同一次尝试中全部正确。保留中间结果能够避免重复已经正确的工作,却也可能因为中间错误而影响后续步骤。我们研究了在何种条件下这种复用是可靠的,以及它需要多少计算资源。针对在重试预算耗尽前没有候选通过的本地重试策略,我们给出了正确完成的充分条件,并对平均尝试次数给出上界。进一步分析了检查成本和通过检查的概率如何共同决定总计算量。实验在八种推理模型上进行,覆盖复合数学和算术任务。以四个 DeepSeek 系列模型为例,第二子问题的平均成功率在不提供第一子问题上下文时为 36.2%,仅提供答案时提升至 57.2%,再加入推理过程和答案时略升至 58.3%。这些分数衡量的是第二子问题的覆盖率,并包括在选择失败时的继续尝试。算术实验表明,即使首次尝试的准确率相近,经过多次重试后的覆盖率也可能相差巨大。代码已开源:https://github.com/SempraETY/Intermediate-State-Reuse
点评:本文通过理论分析和实证验证,明确了中间结果复用的可靠性边界,为设计更高效的 LLM 推理流水线提供了可操作的指南。