现代语言模型正被要求在同一提示中完成多个任务，这不仅需要对每个子任务给出正确答案，还要把这些答案整合成连贯的整体响应。本文发现了一个根本性的局限：当任务被组合时，模型的错误率显著上升，即使它们在单独处理每个子任务时能够可靠地完成。该退化现象并不能仅用独立错误的累积来解释。我们在开源模型以及前沿模型 Claude Opus 5 上的实验表明，背后存在一种隐式的“思考预算”。具体而言，在任务组合的情境下，模型为每个子任务分配的 token 数明显少于单独处理时的分配，即使整个序列仍然远低于上下文窗口的上限。于是，那些在单独求解时需要更长推理链的任务在组合后变得更为 脆弱（fragile），错误率上升。相反，非脆弱任务在单独求解时往往会获得超出需求的推理长度，导致计算资源浪费。通过依据任务脆弱性对任务进行分组，我们能够操控隐式预算，使得在一系列数学和语言任务上，token 使用量降低约 43%，同时保持准确性。
点评：本文揭示了语言模型在多任务组合时的资源分配机制，为设计更高效的提示策略提供了实证依据。通过识别并利用任务的脆弱性，可在不牺牲性能的前提下降低计算开销，这对实际应用具有重要意义。