引言
当前的智能代理工作流程通常涉及将用户请求分解为工具调用的序列，并正确解析参数，随后通过语言模型的上下文窗口处理结果。提高推理能力的主流方法是测试时扩展，这种方法训练模型在长思维链上进行搜索；然而，这种能力与模型权重相互纠缠，无法逐步验证，并且在推理时成本高昂。
Forethought 系统
我们提出了 Forethought，一个神经符号推理系统，它将推理视为一个明确且可验证的程序，构建于一个符号和神经原语库之上，通过领域特定语言进行组合。最终结果是推理程序，它们是模型工作的具体表示，因此可以在部署前进行检查和修改。
评估与结果
Forethought 作为一个工具调用执行内核实例化，并在五个基准测试中进行评估，结果显示其基模型准确率相对提高了约 30%，并超越了传统提示、强化学习支架和提示演化方法，使得小模型能够匹配或超过前沿模型的能力。
在直接比较中，增强了 Forethought 的非推理模型与专用推理模型竞争，同时需要大约三个数量级更少的后训练投资，并且仍然是模型无关和可审计的。
博主点评： Forethought 的出现为推理过程的透明性与可验证性开辟了新的可能，其通过神经符号编程有效提升了模型的表现，尤其在小型模型中表现出超乎寻常的能力，值得在未来的研究中进一步探索其应用潜力。