在深度神经网络（DNNs）中，对抗脆弱性已从决策边界几何、特征鲁棒性、输入输出雅可比矩阵及逆问题的不稳定性等多角度进行研究。本文重点探讨现代 DNN 中间线性变换的谱结构，这是对抗脆弱性的一个尚未被充分研究的机制。我们具体分析基于变换器的视觉-语言模型（VLMs），其线性层具有可解释的谱分解，这使得理解其鲁棒性变得尤为重要。我们提出了一种白盒谱子空间引导攻击（SSGRA），该方法通过对齐中间表示与底右奇异向量所张成的子空间来实现。实验结果表明，SSGRA 在攻击效果上超过了现有基线。此外，SSGRA 还提供了对 VLMs 中对抗脆弱性的谱解释，为提升其鲁棒性提供了新思路。
博主点评： 本文通过探索中间谱子空间，为视觉-语言模型的对抗攻击提供了新的视角与方法。随着 DNN 的应用日益广泛，理解其脆弱性机制对提升模型的安全性和鲁棒性至关重要。SSGRA 方法的提出，展现了在理论与实践中结合的潜力，值得进一步研究与应用。