在处理复杂任务时，基于大语言模型（LLM）的多智能体系统（MAS）面临重大安全挑战，尤其是在代理和交互层面的脆弱性。现有的MAS安全防御主要基于两个核心假设：语义明确的恶意攻击和基于图的MAS拓扑与代理交互建模。然而，现实世界中的攻击越来越隐蔽，而MAS的执行通常是异步的，这与基于图的传播模型所假设的时间对齐并不相符。为了解决这些局限性，我们提出了AcMAS，一个基于激活的恶意行为检测框架。通过分析本地代理在激活空间中的内部推理状态，AcMAS能够以同步鲁棒的方式检测隐蔽攻击，而无需依赖显式的交互图。此外，我们的激活分析为AcMAS提供了重要信号，以指导其恢复被攻击代理的功能，而不是通常采用的破坏性代理隔离。全面评估表明，AcMAS在面对隐蔽攻击时，相较于基于图的基线方法显著提升了性能：在同步设置中F1值提高了0.22（0.94对0.72），在异步设置中提高了0.55（0.93对0.38），并在多种开源LLM模型、攻击强度和MAS规模上具有良好的泛化能力。
博主点评： AcMAS框架通过引入激活分析，成功解决了多智能体系统中恶意行为检测的时效性与准确性问题，展现了其在动态环境中的应用潜力。这一创新方法不仅提升了检测能力，也为后续的功能恢复提供了思路，值得在相关领域深入研究与应用。