ThinkFuse 是一种无需额外训练的测试时融合框架，专门用于在小型推理模型（SRM）出现不可靠推理段时进行干预。它通过比较段级不确定性变化与整体轨迹不确定性趋势，识别出不稳定的推理节点，然后将辅助推理路径融合到主模型的推理轨迹中。相较于传统的仅依据局部不确定性触发融合的方法，ThinkFuse 能避免因瞬时波动导致的误触发，从而保持推理的稳定性。
实验在数学推理和知识密集型推理基准上进行，覆盖多种模型族组合。结果显示，ThinkFuse 在准确率上显著超越基线，并且在使用更小的主模型时仍保持鲁棒性。进一步分析表明，ThinkFuse 触发的融合次数更少，生成的额外 token 也更低，验证了其选择性触发的效率。
代码已开源，地址：https://github.com/js-lee-AI/ThinkFuse
点评