摘要
检索增强生成(RAG)已被证明在提升大型语言模型(LLM)输出质量方面具有广泛的成功。然而,传统的RAG系统通常从扁平文档存储中检索上下文,这在需要层次或关系推理的查询中表现不佳。本文提出HG-RAG(层次引导的RAG),这是一个通过层次知识图谱进行图遍历的框架,以便为语言模型提供结构化上下文。
我的检索流程首先从查询中解析命名实体锚点,然后在需要时通过父节点向上扩展上下文,通过关系邻居横向扩展,并通过子节点向下扩展。对HG-RAG的评估与密集检索基线进行了比较,覆盖了三个世界规模(18-800个节点)及四种查询类型:局部事实、层次、邻域和多跳。结果显示,HG-RAG在层次推理、关系推理和多跳推理任务上始终优于扁平基线,同时减少了幻觉现象,并保持了局部一致性。
博主点评: HG-RAG通过引入层次结构和关系推理,显著提升了知识图谱在复杂查询场景下的表现,这为大语言模型的应用开辟了新的视野。未来,如何进一步优化检索效率和模型融合将是研究的重点。