摘要
检索增强生成（RAG）是将大型语言模型（LLMs）应用于企业文档库的主要范式，然而简单实现面临着随着文档规模和查询复杂性增长而出现的硬性限制。本文追溯了安大略电力公司（OPG）在监管合规和安大略能源委员会（OEB）报告要求下的生产检索管道的演变。
发展阶段
我们考察了多个阶段：简单RAG、混合检索与重排序、具有智能功能调用的检索，以及基于深度多代理架构的代码工具合成与明确规划。每个过渡的失败模式和权衡都得到了识别。
成熟架构
我们将成熟架构正式化为渐进证据获取与成本感知升级（PEA-CAE）：从低成本、高精度的检索开始，仅在预期证据增益合理化延迟和成本时才升级到全文档读取。
主要发现
我们的研究表明，对于大型、不断发展的监管文档库，上下文工程是一条比领域特定微调更可行和经济的路径。更广泛地说，向深度智能检索的进展反映了经典信息检索思想，提出了自适应查询重构、渐进文档发现和分层子代理摘要作为实用的系统原语。
运营跟踪
运营轨迹进一步支持现代检索系统的搜索基础特性，其中迭代证据获取和自适应规划越来越替代单次检索，成为企业规模问答的基础。
博主点评： 本文深入探讨了检索增强生成模型在复杂文档处理中的演变，强调了上下文工程的重要性。这一方法不仅提高了检索效率，还为监管合规提供了更具经济性的解决方案，值得业界关注和借鉴。