摘要
大型语言模型(LLMs)的发展迅速,其推理能力已成为热门研究课题。然而,关于溯因推理的探索仍然有限。
多视角和多层次的因果关系是溯因推理的核心挑战之一,现有方法难以有效解决。为此,我们构建了一个名为 DeepAbduction 的专用数据集,旨在追踪污染和疾病的成因,填补该领域数据集的空白。
我们提出了逆向前向溯因推理(IFAR)框架,专为 LLMs 的多视角和多层次溯因推理而设计。IFAR 采用零样本学习,并结合了广义的逆向推理与逐关系的前向验证。实验结果表明,IFAR 在主流 LLMs 下的 F1 分数比其他方法提高了约 40%,同时保持了召回率和精确率的平衡。
此外,IFAR 提升了非推理型 LLMs 的性能,使其超越经过推理训练的 LLMs,并在应用于后者时仍然有效。代码将在我们的工作被接受后发布。
博主点评: IFAR 框架的提出为解决因果推理中的关键挑战提供了新的思路,尤其是在数据集构建和推理能力提升方面的贡献值得关注。未来的研究可以进一步探索其在其他领域的应用潜力。