NeFut Logo NeFut
EN 管理员登录

[AI学术] 谁可以推翻代理?LLM审查机构的证据门控权威

发布于:2026-11-05 22:00 最后更新:2026-11-07 12:32
#AI #Machine Learning #LLM

多智能体语言模型系统常通过添加审稿人来提升上游代理的决策质量。审稿人既能修复错误,也可能替换本已正确的决定。本文把这一现象建模为制度管辖权问题:在同一提案、任务信息、模型和审稿输出已知的前提下,审稿人的推荐何时具备约束力?我们比较了两种授权方式:一种是宽泛的覆盖权,另一种是证据门控,仅在审稿人提供机械上有效的约束违背记录并给出符合要求的修复时才允许替换。实验在两款本地开源模型(Qwen 与 Mistral)、96 个空间政策任务以及一个 96 任务的组合转移基准上进行。结果显示,证据门控显著降低了对正确提案的破坏,同时保留了大多数违背修复。权衡的方向部分由规则本身决定,幅度则受审稿人状态转移和上游提案状态的影响。进一步的前瞻验证让审稿人可以显式选择保留、替换或上报。该机制在 Qwen 上消除了正确提案的破坏,但 Mistral 仍然替换了全部 48 条正确提案;此外,Qwen 拒绝了 Mistral 常尝试的仅涉及福利的修复。由此可见,界面设计会改变审稿人行为,但并非模型无关的安全保障。结论不是受限审查普遍更好,而是审稿人能力、交互接口和约束管辖权共同决定了纠错范围和腐败风险。

点评

原文链接: https://arxiv.org/abs/2611.05390

[h] 返回首页