金融 AI 系统必须能够处理涉及付款、收款、现金流和合规性的决策性问题,同时保证数值精度、可追溯性和审计能力。大语言模型(LLM)提供自然语言交互,但无法独立确保可复现的计算或基于证据的推荐。为此我们提出一种面向生产的架构,核心包括三大组件:
- 金融知识图谱,用于存储企业关系、时间上下文和来源信息;
- 确定性优化引擎,负责金融计算和决策的精确求解;
- 多代理 LLM 层,负责意图解析、任务编排、解释生成以及声明验证。
一个称为上下文工程的协调层在查询时从 ERP 系统、工具和租户中选择、排序、组合并验证特定上下文。基于约 11 个月、15 次部署的观察,单代理流水线的幻觉率约为 7%‑9%(不同查询类型 5%‑10%),常见问题包括捏造发票和不支持的财务主张。引入图谱支持的多代理验证后,观察到的幻觉率降至 1% 以下,虽为观察性结果但显示出显著改进。ERP 数据质量和租户特定模式仍是主要实现难点。通过复用映射、图谱模板和验证策略,部署周期从约六周缩短至两周。
我们认为金融上下文工程超越了以文本为中心的检索增强生成,需要结构化关系、时间有效性、精确数值证据、访问控制以及对源记录和求解器输出的验证。最后我们列出了评估、可复现性、隐私、上下文质量和跨租户泛化等研究挑战。
点评:该架构展示了将结构化图谱与确定性求解结合的可行路径,为金融 AI 的可靠性提供了实证参考。