大型语言模型（LLM）正日益成为认知接口，影响用户对证据的解释、交流方式以及决策过程。随着系统向多模态、工具使用和多代理方向演进，安全失效不再仅来源于单一有害输出，而是涉及代理在检索、记忆、工具调用和同伴通信中如何更新、存储和传播认知承诺（belief）。
本文将 belief 定义为基于证据的工程抽象，用以指导后续行为。基于此视角，提出 显式信念多代理系统（EB‑MAS）：
- 将信念状态外部化为结构化基底；
- 使用信念算子生成候选更新；
- 通过 认知防火墙（Cognitive Firewall） 对证据薄弱但受脆弱性线索强驱动的更新进行限制或拒绝。
此外，文章讨论了 群体信念 的风险，包括制造共识、合谋以及信息级联失真，并概述了落地时的关键挑战：
- 落地（grounding）：如何确保外部化信念与真实世界证据对齐；
- 误报（false positives）：防火墙误拦合理更新的概率控制；
- 可扩展性（scalability）：在大规模代理网络中维持实时审计的计算开销；
- 伦理滥用（ethical misuse）：防止攻击者利用信念接口进行操纵。
因此，真正可扩展的代理安全不仅需要更强的输出过滤或更大的基础模型，还必须提供 可追踪、可校准、可约束的信念修正接口，在运行时对信念的演化进行审计与控制。
点评