NeFut Logo NeFut
EN 管理员登录

[AI学术] PORA:学习何时更长推理对LLM代理有益

发布于:2026-10-21 22:00 最后更新:2026-10-22 01:04
#Machine Learning #optimization #LLM

LLM 代理在多步任务中会根据反馈调整行为,但整体推理预算有限,需要在每一步决定使用短推理还是长推理。长推理可以通过提前避免错误提升最终结果,却会占用后续决策可能需要的预算,这带来了两个核心难题:如何估计长推理在后续的价值,以及何时值得为此消耗剩余预算。

我们提出 Paired Outcome‑guided Reasoning Allocation (PORA),通过在同一交互状态下分别执行一次短推理和一次长推理来学习该决策。训练阶段,\method{} 从每个选定状态完成两次任务,比较两者的最终质量和总计算量,从而估计长推理的增益。推理阶段,控制器依据该估计以及对剩余预算压力的学习价格,直接选择短推理或长推理,无需同时运行两种备选。

在应用、记忆、代码、零售和数学等五类任务上评估,PORA 在所有设置中均取得显著提升。特别是在 BFCL 记忆任务上,提升幅度为 17.4%–32.9%。在同一代理内部,针对代码和数学任务,PORA 的表现与始终使用长推理相当或更好,同时分别减少 50.6% 的 actor token 使用和 31.2% 的模型请求次数。

点评

原文链接: https://arxiv.org/abs/2610.27119

[h] 返回首页