摘要
多实体组合问题对现有的检索增强语言模型提出了重大挑战。传统方法面临困境:标准的 RAG 缺乏动态推理,传统的 Graph-RAG 受限于结构稀疏,而 LLM 构建的 Graph-RAG 则成本高昂。为此,我们提出了 HyGRL,一个统一框架,将非结构化文本嵌入结构化知识图,创建灵活证据检索的异构网络。
推理被公式化为自适应结构引导,通过 robust 的两阶段过程进行学习:(1) 模仿学习提炼启发式专家信号,(2) 强化学习使用 LLM 驱动的偏好奖励来优化策略。实验表明,HyGRL 有效融合了文本的丰富性与结构知识,在答案准确性和推理真实性方面超越了 SOTA 基线,同时保持极低的 token 成本和近实时推理性能。
代码可访问:GitHub - HyGRL
博主点评: HyGRL 通过结合文本和图结构的优势,展示了在多实体推理中的巨大潜力。其创新的学习机制尤其值得关注,未来在实际应用中的表现将极具期待。希望能看到更多基于此框架的研究进展!