NeFut Logo NeFut
EN 管理员登录

[AI学术] 认知 Sybil 抵抗:在不增加证据的情况下扩展 AI 代理

发布于:2026-09-03 22:00 最后更新:2026-09-04 02:14
#AI #Machine Learning #LLM

多代理 AI 系统通过生成子代理并合成报告来提升推理。关键问题是并非每个新代理都等价于新观察:表面独立的报告可能来源于同一证据,真正独立的证据也可能产生几乎相同的报告。我们将其形式化为认知 Sybil 问题。若对报告集合 R,报告 Z 满足 I(Θ; Z | R)=0,则称 Z 为 epistemic Sybil 扩展。仅依赖报告的聚合器无法普遍区分复制与独立 corroboration,因为相同报告在未观测的血缘下可导致不同后验。我们构建高斯共享根模型,证明共享血缘不等同于完全冗余。重复提取可向源层上限累积信息,而共享基模型在独立代理之间引入的相关提取误差会进一步降低该上限。实验使用超过 2 万次受控 LLM 代理报告与提取调用,基于合成证据文档。固定单一证据根,报告数量从 1 增至 32 时,朴素后验覆盖率从 0.940 降至 0.263。保持报告数不变而将证据根数量从 1 增至 16 时,差距收敛,k=16 时聚合器统计上不可区分。代理的复制提取误差相关系数 γ_cal≈0.719(样本外估计),使用相关提取聚合器可相应恢复校准。进一步的受控操作将表示相似性与血缘独立分离:报告空间去重机制的平均推断簇数变化 1.425(95% CI [1.363,1.485]),而真实血缘四倍变化仅导致 0.040([-0.045,0.120])的变化。结论是集体推理应追踪证据血缘与依赖关系,而非仅依据代理或报告的数量与相似度。

点评

原文链接: https://arxiv.org/abs/2609.01873

[h] 返回首页