在关键领域使用大语言模型(LLM)代理时,需要对其输出的可信度进行校准,以决定是否信任或介入。传统的置信度估计面临两大难题:成功的证据分散在代理执行的多个相互依赖的步骤中;而实际部署时,前沿模型往往不提供内部信号,执行代价高,训练数据可能缺失或快速失效。为此我们提出 置信推理图(Confidence Reasoning Graph,CRG),一种仅在推理阶段使用单条轨迹即可估计任务完成概率的框架,无需特权模型访问或额外训练数据。
CRG 的核心思路是:先假设代理完成了任务,然后将该整体声明分解为若干 上下文化子声明,每个子声明都直接对应轨迹中的具体证据。对每个终端子声明独立估计置信度,最后通过聚合函数得到整体置信度。该过程既保留了细粒度证据,又避免了将整个执行压缩为单一判断的粗糙化。
在三个代理基准、三种主干模型和三种代理框架上的实验表明,CRG 相比口头化、采样式以及白盒代理替代模型基线,能够提供更好校准的置信度并提升风险感知决策能力。值得注意的是,仅看校准误差可能产生误导:某些白盒替代基线看似校准良好,却几乎没有判别能力。消融实验进一步证明,CRG 的优势主要来源于 声明层级的置信度估计与聚合,而非图结构本身。
此外,CRG 公开了每个置信度估计背后的声明及对应轨迹证据,使得在决策时能够对模型输出进行审计。
点评:CRG 为 LLM 代理提供了一种可解释、无需额外训练的数据高效置信度评估方法,兼顾校准精度与风险控制,具备实际部署的潜力。