NeFut Logo NeFut
EN 管理员登录

[AI学术] 基于声明门控的生成式搜索源风险审计

发布于:2026-09-25 22:00 最后更新:2026-09-28 00:49
#AI #Machine Learning #LLM

生成式搜索的答案可以引用支持段落,却可能省略改变解释的来源关系。我们提出对查询‑来源‑答案三元组进行声明门控审计。只有在同时观察到关系证据、答案采纳、重要性和披露四个要素时,省略才被视为已解决;否则不完整的证据被视为未决,而不是独立。

该规范将审计端点与引用支持和审稿优先级分离,并将决策绑定到带版本的证据跨度。参考检查器使记录合约可执行。

在一个穷尽的合成测试套件上,系统能够复现全部 81 种三状态谓词组合,并拒绝 192 条故意构造的错误记录。常规基线和谓词消融实验将端点逻辑与缺失证据处理隔离,受控的状态转移验证了支持分离和证据移除的行为。这些结果是有限的合约符合性检验,而非检测器精度或用户体验提升的证据。

我们还阐明了仍需完成的独立标注、留出评估以及配对效用测试,以验证语义有效性并证明部署价值。

点评

原文链接: https://arxiv.org/abs/2609.29145

[h] 返回首页