在这篇文章中，Quattrociocchi及其同事警告称，大型语言模型（LLM）流畅的输出可能使语言的似然性取代对知识的评估，产生一种他们称之为Epistemia的状况，即在未进行通常应有的判断实践的情况下，体验到拥有知识。本文接受这一诊断，但对其解释框架提出挑战，认为将具身的、社会情境下的人类认知者与孤立的生成模型进行比较，实际上将知识的合法性定位于自主代理内部的能力。
借助Carlo Sini关于实践、书写、符号和技术的哲学，我们建议将大型语言模型理解为一种技术符号机器，它通过从人类书写的沉积档案中生成似然的语言配置，自动化书面符号过程的一个阶段。从这个角度看，Epistemia是我们称之为认知分裂的更广泛现象的一个结果：符号作为语言表达的实现与符号作为社会嵌入的解释、证据、批评、验证和责任的环节之间的社会技术裂痕。这种裂痕通过图标闭合得以加强，这种闭合使得一个似然的延续以知识结果的最终性呈现，并通过算法权威和知识自我误认来进一步增强。因此，相关的单位不再是模型本身，而是生成的书写被提示、解释、验证、争辩、使用并产生影响的完整实践。这种重新构架保持了语言生产与负责任理解之间的区别，同时为以可检验的谱系、争议性、分布式责任、知识代理和人机混合实践的评估为中心的设计方案奠定了基础。
博主点评： 本文深入探讨了大型语言模型在知识生成中的角色，提出了新的视角来理解其社会影响，强调了技术与人类实践之间的相互作用，值得关注。