在大型语言模型（LLMs）的应用中，可靠的信心估计对信心感知系统至关重要，因为下游决策（如检索、工具使用和自适应计算）依赖于准确的答案可靠性估计。然而，现有方法主要将信心视为已完成响应的属性，忽视了信心相关信息在回答过程中的演变。
在本研究中，我们从时间的角度探讨信心，通过比较前期的知识感知（Feeling-of-Knowing，FOK）和后期的学习判断（Judgement-of-Learning，JOL）信心估计，分析前沿和开源LLMs的表现。
研究表明，后期信心的校准性和区分性均优于前期信心，同时基于隐藏表示训练的线性探针能够恢复比模型显式表达更丰富的信心相关信息。基于这一观察，我们提出了未来信心蒸馏（future confidence distillation），该方法利用后期正确性探针生成的教师信心估计，训练基于前期隐藏表示的预测器。
尽管推断只需使用前期表示，蒸馏预测器仍能恢复后期信心所带来的校准改进，保持高样本效率，并在同一领域内的数据集间进行有效迁移。我们的发现表明，信心相关信息在回答过程中不断演变，并且在答案生成完成之前可以预见，从而实现更可靠且低成本的信心估计。
博主点评： 本文通过关注信心估计的演变，为大型语言模型的应用提供了新的视角。未来信心蒸馏不仅提升了模型的信心校准，还展现了如何有效利用前期信息来优化决策过程，具有重要的实用价值和研究意义。