摘要
测试时扩展能力使得大型推理模型（LRMs）能够通过广泛的思维链（CoT）来解决复杂任务。然而，这常常引发“过度思考”悖论，即冗余推理增加计算开销，却不保证准确性。现有的测试时效率优化方法主要分为两类：信息论方法，容易出现“欺骗性收敛”，即低不确定性掩盖了幻觉；以及潜在表示分析，通常是事后分析，缺乏动态推理的实时敏感性。
为了解决这一问题，我们首先提出了相位-动量对齐假设，认为推理的正确性取决于几何动量与不确定性解析之间的时间同步。接着，我们理论上构建了认知能量模型，通过两个正交维度来刻画这些动态：几何认知努力，由潜在速度和曲率量化，以及熵认知不确定性。
为了实现这一目标，我们引入了PUMA（相位-不确定性动量对齐），这是一种无训练框架，采用分层诊断架构。通过将轻量级相位监测与事件触发的几何分析相结合，PUMA有效地区分主动探索与被动停滞，从而通过自适应截断或纠正措施进行精确干预。
在1.5B到32B的LRMs上进行的大量实验表明，PUMA在各种基准测试中始终优于最先进的基线，达成了更优的准确性与效率权衡，并展现出强大的跨领域泛化能力。
博主点评： PUMA的提出为推理模型的动态优化提供了新思路，强调了相位与动量之间的关系，具有重要的理论意义与实际应用潜力。通过这种框架，可以更有效地管理推理过程中的资源和时间，推动LRMs在复杂任务中的表现提升。