近年来大型语言模型(LLM)的推理能力取得显著提升,但其推理过程常伴随不确定性:在相同提示下,同一步骤会产生多个分支,其中一些分支甚至出现荒诞或无意义的链路。为系统研究这种不确定性,本文提出基于图复杂度的 Uncertainty 方法(GUT)。核心思路是将所有可能的推理分支映射到一个有向无环图(DAG),确保图空间完整覆盖潜在分支。基于此,GUT 包含两大模块:量化模块(GUT‑Q)和优化模块(GUT‑O)。GUT‑Q 通过计算图的结构复杂度来近似推理空间的复杂度,从而得到不确定性度量;GUT‑O 将负的不确定性作为强化学习的奖励函数,驱动模型在生成过程中倾向于选择更确定的路径。实验在四种主流 LLM 和五个公开数据集上进行,对比结果表明 GUT 能显著降低推理分支的散度并提升答案质量。
点评:GUT 为 LLM 推理不确定性的度量与控制提供了可解释的图结构视角,兼具理论意义和实用价值,值得进一步在更大规模模型和多模态任务中探索。