在这篇文章中，我们提出了一个语义框架，用于描述AI系统的输出。AI系统的输出并不是它所描述的事实或世界状态，而是经过工程化的表示。
我们通过区分被公认的领域知识、参考来源的内容以及系统当前可利用的信息，来审视这些表示的正确性。这一框架使我们能够精准定义常见的失败情况，包括外推、被驳斥或不支持的断言、来源与知识的不匹配、过时或被驳斥的来源、附加假设及不支持的使用等。
希望我们的框架能够提供有用的词汇，以便为那些其输出、引用、工具调用和世界变化行为必须由可靠主张和明确权威来证明的AI系统进行规范和检查。
博主点评： 这项研究强调了AI系统输出的语义准确性，突出了在AI应用中建立可靠知识基础的重要性。通过定义常见错误，研究为AI系统的可靠性提供了新的视角，推动了对系统输出的审查机制的深入思考。