安全多智能体强化学习（SMARL）旨在在满足预设安全约束的前提下学习协作控制策略。现有方法主要关注在策略优化阶段强制安全，但对推理阶段的脆弱性研究不足。本文聚焦于观察攻击，即攻击者对部分智能体的观测进行扰动，从而影响其策略输出的动作。
我们提出 MinMax Attack 框架。该框架在选择被攻陷智能体的对抗目标动作时，同时考虑未受攻击智能体的合作抵抗（Cooperative Resistance），实现对整体系统行为的最坏情形控制。
在理论分析中，我们推导出诱导安全成本 $C_{s}$ 的上界：$$C_{s} \le f(B_{c}, B_{p})$@@@MATH_BLOCK2@@@B{c}@@@MATH_BLOCK3@@@B{p}$ 为观测扰动预算，函数 $f$ 体现两者的交互影响。该界限揭示了预算分配对安全风险的决定性作用。
实验在多个安全关键的多智能体基准上进行，覆盖了当前主流的 SMARL 算法。结果表明，MinMax Attack 能显著提升安全成本，相比已有基线保持任务奖励不变，因而更难被检测，兼具攻击效果与隐蔽性。
点评