NeFut Logo NeFut
EN 管理员登录

[AI学术] 代码生成中的推理轨迹溢出:显式推理模型的实证研究

发布于:2026-11-05 22:00 最后更新:2026-11-07 12:32
#algorithm #AI #Machine Learning

显式推理能够帮助语言模型生成代码,但也带来一个实际风险:模型可能在输出预算中花费过多的 token 用于推理,导致最终没有可用的代码。我们将这种现象称为 推理轨迹溢出,并在七个开源权重模型和六个代码基准任务上进行系统测量。所有实验均使用固定的 32k-token 输出上限,评估推理占用的比例、对 pass@1 的提升以及轻量级推理控制手段的缓解效果。\n\n实验结果表明,推理的价值高度依赖任务和模型。对简单的函数级任务,溢出现象极少;但在更难的代码生成基准以及特定模型族中,溢出变得普遍——在若干模型‑基准组合上,超过半数的生成在耗尽全部 32k-token 后仍在进行推理。大多数完整溢出伴随重复的推理循环,亦有相当数量的长推理未出现循环。\n\n因此,对易溢出的模型,关闭推理往往能获得竞争力的结果,因为它保证了答案的产生;而在更强大的模型上,推理仍能在困难的算法和代码理解任务中提供显著收益。我们进一步比较了两类控制方法:提示引导(prompt steering)在部分模型上能显著降低溢出,但效果不稳定;基于预算的阶段切换(budgeted transitions)提供了更直接的控制,既提升性能又提升 token 效率。\n\n这些发现提示,显式推理应被视为代码生成中的可控资源,而非始终开启的功能。\n\n点评:本文通过大规模实验揭示了推理在代码生成中的双刃剑特性,为实际部署提供了明确的控制思路。

原文链接: https://arxiv.org/abs/2611.06095

[h] 返回首页