本文聚焦于研究构思流水线的首要环节——从文献中识别可操作的局限性。通过先导实验发现,随着大语言模型(LLM)规模从 0.6B 增至 32B,模型在判断已有工作已解决的局限性上显著提升,但在主动生成新局限性方面并未改善,说明瓶颈在监督信号而非模型容量。为此,作者构建了 ActLim-Bench,利用前向引用抽取 18,279 条带有人类验证的证据关联监督三元组。基于该信号,提出三阶段后训练流程:① 监督微调;② 基于验证器过滤的拒绝采样微调;③ 将验证器作为在线密集奖励的强化学习。实验表明,该方法在所有前沿模型中实现最高召回率,并在非平局的人类比较中以 64.9% 的比例获胜,进一步提升下游构思系统的效果。数据与代码将在论文发布后公开。
点评