摘要
搜索增强的语言模型可以利用外部证据来弥补参数知识的局限性,但搜索并不总是有益的:模型可能会在可以自我回答的问题上调用搜索,或者在更适合纠正、澄清或放弃时依赖噪声证据。我们将此视为一个实例级的搜索路由问题:决定在相对于无搜索执行的情况下,是否需要搜索以提高任务成功率。
为了推导监督信号,我们比较了同一问题的无搜索和强制搜索结果,并基于任务特定的成功构建了一个关于无搜索、搜索和未解决的预言机。使用该预言机作为评估标准和学习信号,我们通过监督微调和偏好优化训练搜索路由策略,将Gemma E2B在可用预言机示例上的路由宏F1从0.7082提高到0.8235,将Qwen3.5-4B的宏F1从0.7053提高到0.8365。
进一步分析表明,学习到的策略减少了模型特定的路由失败:Gemma主要学习无搜索的克制,而Qwen进一步减少了未搜索的遗漏;残余的未解决案例揭示了涉及模型能力、检索预算、证据使用和策略行为的异质瓶颈。
博主点评: 本文通过反事实监督方法提升了搜索路由策略的有效性,展示了在特定任务中如何优化搜索调用的决策。这一研究为未来的搜索增强语言模型提供了重要的指导,尤其是在处理复杂查询时,能够有效减少无效搜索的发生,提高处理效率。