本文聚焦于代理式 AI 与基于大语言模型(LLM)的多智能体系统(MAS)的价值对齐问题。传统软件工程侧重功能正确性,而在 MAS 中,架构设计——包括协调机制、通信协议和系统拓扑——直接决定系统行为及其对隐私、公平、安全等人本价值的影响。
作者提出三类价值保留架构模式:
- 隐私感知架构:采用联邦拓扑,使数据在本地处理,仅共享模型更新,从而降低中心化数据泄露风险。
- 分布式多样性架构:通过去中心化的节点分布和多模型共存,促进观点多元与决策 pluralism,防止单一模型垄断。
- 守护代理架构:引入专门的 guard‑agent 监控其他代理的输出,检测并纠正不公平或有害行为,实现实时价值约束。
为验证这些模式,论文展示了若干真实场景:如跨机构医疗数据分析中的联邦学习、开放式对话平台的多模型投票机制以及金融风控系统中的不公平检测守护代理。通过将人本价值嵌入架构层面,本文为构建可信赖的 MAS 提供了统一的模式与指南。
点评