大型推理模型通过长链思考解决复杂问题，但已有研究指出其常出现思考过度、思考不足以及不支持的推断等失败模式。现有方法仅依据局部信号——如与相邻步骤的文本相似度、切换标记或大型语言模型对单步正确性的判断——来检测这些失败。然而，一个步骤对最终解答的贡献取决于之前步骤所建立的状态，因而需要一种能够跨越整个推理轨迹、持续追踪状态的全局视角。\ \ 为此我们提出 ARBOR，一种推理失败归因框架。ARBOR 将每条推理轨迹表示为一棵推理状态树：每一步可以创建、验证、剪枝或重新访问一个状态，并将失败归因于该步骤与其前置状态之间的关系。通过 ARBOR，我们将原有的三类失败模式细分为若干子类型，这些子类型在机制和代价上各不相同。实验表明，步骤执行前树中保存的状态能够将真正导致错误的步骤与仅处于风险但未实际出错的步骤区分开来。我们进一步讨论了 ARBOR 如何在推理时的干预以及训练数据的构建中与现有的缓解措施结合使用。代码、数据及交互示例已在 https://inklab.usc.edu/ARBOR 发布。
点评