随着生成式 AI 让高质量文字的成本骤降,流畅性已不再是可信度的可靠指标。我们将这种现象称为流畅陷阱:用户倾向于相信流畅的幻觉式内容,却在得知文本为 AI 生成后对其中的准确信息产生怀疑。二元的“Made with AI”标签只能披露作者身份,却无法展示支撑每个主张的证据。为此我们提出 来源密度(Provenance Density)——一种可视化界面,展示文本中已验证主张的密集程度。
在 81 名参与者的用户研究中,理想化的来源密度界面使真伪辨别差距显著提升($+4.15$ 分,$d=1.82$),而未提供任何信号的组别则没有检测到可辨别的差异。随后对 200 条样本的技术审计表明,仅靠检索密度不足以区分真伪;意外的是 一致性否决(Consistency Veto) 在动态查询中贡献了大部分判别信号。
随着 AI 生成内容与人类写作难以区分,透明度的有效实现必须从单纯的作者披露转向证据可视化。
点评:来源密度提供了一种直观的方式,让读者在阅读时即可感知信息的可信度层级,尤其在 AI 内容泛滥的时代,这种可视化手段有望成为新标准。