检索增强生成（RAG）通过外部文档库为大语言模型（LLM）提供事实依据。传统的 Agentic RAG 能够进行多轮检索，但只向模型提供孤立的文本块，缺乏文档层次信息，导致模型难以判断哪些证据是真正相关，哪些只是表面相似。结构感知方法如 PageIndex 能利用目录或站点地图来引导检索，但它们需要把完整文档结构放入 LLM 上下文，难以扩展到大规模语料库；此外，它们在检索阶段就锁定单一文档，若选错文档则无法纠正。
RIT‑RAG（Retrieval‑Induced Tree RAG）在离线阶段为每篇文档依据目录或 sitemap 构建一棵树。查询时，系统先检索出一批候选块，并利用这些块在文档树中的位置动态生成若干可管理的子树，这些子树可以跨文档。随后，一个 LLM 代理在子树上进行导航：它会挑选最有前景的节点阅读，必要时重新表述查询以获取更精确的块。整体流程是：检索器负责“去哪里找”，而代理负责“读什么”。
实验在金融、科研和客服三个基准上进行，对比了普通 RAG、基于图的 RAG 以及其他 Agentic 方法。RIT‑RAG 在所有基准上均取得最高的答案准确率。特别是在我们新构建的 EntQABench（包含 284 万技术文档网页）上，RIT‑RAG 相比最强基线提升了 6.8~11.4 个百分点，且在三种不同规模的 LLM 上均表现出色。
关键技术点
- 离线构建文档树：从目录或 sitemap 解析层级结构，节点对应章节或子章节。
- 检索诱导子树：利用检索块的位置信息在原始树上裁剪出子树，保持上下文连贯性且规模可控。
- LLM 代理导航：在子树上执行深度优先或启发式搜索，动态决定读取哪些节点并在必要时改写查询。
点评：RIT‑RAG 通过把检索结果映射回文档层次结构，实现了“结构感知的检索+智能阅读”双重优势，显著提升了在大规模技术文档上的问答性能。