在自然语言处理领域，大型语言模型（LLMs）已经引发了变革，但其缺乏可解释推理和常见的幻觉现象在法律应用中带来了重大挑战。尽管LLMs在法律文本分析和生成方面展现出潜力，但在准确的引用归属和判例验证方面却存在困难。例如，在法律环境中，单个错误的判例可能危及案件的结果。
目前改善LLMs在法律领域可靠性的现有方法存在两个主要限制：训练或微调过程中对结构化法律知识的整合不足，以及生成法律内容的验证机制不足。为了解决这些挑战，我们提出了TRISM（可信赖、可靠、可解释、安全模型）框架，该框架将神经符号AI原则与LLMs结合，利用神经学习能力与对结构化法律知识的符号推理。
TRISM方法在保持可解释决策路径的同时，解决了上述限制。我们的框架形式化了从法律文本中提取符号知识的过程，并将增强检索生成（RAG）作为核心组件，将LLM输出与经过验证的法律来源相结合。本文贡献包括：
- 对AI在法律领域的局限性进行分析；
- 介绍RASOR RAG，为神经符号RAG奠定基础，通过生成可形式化为符号表示的明确可解释推理；
- 创建支持可解释推理和输出验证的符号法律知识库的形式化方法；
- 提出TRISM框架，以整合符号法律知识与LLMs。
博主点评： TRISM框架为法律领域的AI应用提供了一种创新的解决方案，能够有效提升LLMs的可靠性与可解释性。通过结合神经网络与符号推理，它为法律文本分析带来了新的视角，尤其是在确保法律内容的准确性和可追溯性方面，具有重要的应用前景。