大型语言模型(LLM)驱动的智能体在复杂任务上表现出色,通常在交互轨迹的每一步都先进行推理再执行动作。然而,并非每一次回合都需要重新推理,因为之前的推理结果往往能够继续支撑后续动作。关键在于判断已有推理是否仍然足够,以及何时需要新增推理,而不依赖昂贵的生成式验证。
研究发现:在移除额外推理后,后续参考动作的似然度下降幅度能够精准反映这些动作是否仍可由早前的推理恢复,这提供了一种轻量级的跨回合动作支持估计信号。基于此观察,本文提出 RACE(Reasoning Adaptation through Cross‑Turn Estimation) 训练框架,实现智能体的自适应推理。RACE 引入 LoGiC(Likelihood‑Guided Progressive Reasoning Cover Detection) 流程,逐步检测哪些推理回合的移除对当前及后续参考动作影响有限。检测得到的移除信号被同时用于监督微调和基于策略的强化学习,使策略学会在需要时进行推理,在不需要时直接行动。
在四个具代表性的智能体基准上进行的大规模实验表明,RACE 能显著降低推理成本,同时保持甚至提升任务性能。
点评