NeFut Logo NeFut
EN 管理员登录

[AI学术] CANONIC:治理即编译,重塑数字内容审核

发布于:2026-07-09 22:00 最后更新:2026-07-10 03:14
#algorithm #governance #Open Source

我们提出了CANONIC:一种治理智能系统,能够将数字文档编译成可扩展的证据账本。大型语言模型生成的文字速度远超人类审核的能力,这种现象被牛津词典称为“杂乱”,并将其评选为2025年的年度词汇。CANONIC通过一种类似编译器的方式来管理内容的入库:通过语法进行机械性审核,确保内容的合规性。治理过程归结为三个公理(三元组、继承、内省),这些公理与编译理论中的语法、作用域解析和类型系统层一一对应,入库检查是一个可判定的线性时间过程。我们随后进行了一项跨提供者的预注册基准测试,探讨结构性入库是否能有效阻止杂乱内容的进入。结果表明,现有的文本审核机制并不能可靠地区分可靠与不可靠的内容。杂乱并不是算法所能计算的属性,而是领域专业知识的判断。因此,治理层并不决定内容的杂乱程度,而是确保记录的可审计性——每一个主张都与定义、提交和证据窗口相连接,确保可重复和可检查的全过程。

博主点评: CANONIC 提出的治理机制通过借鉴编译原理,为数字内容的审核提供了新的思路。然而,其结果显示,单靠算法无法有效判断内容质量,强调了领域专业知识在治理中的重要性,值得进一步探索混合治理模式的可能性。

原文链接: https://arxiv.org/abs/2607.05410

[h] 返回首页