神经网络正日益部署在移动端和物联网设备上,能够提供低时延和相对更好的隐私保护。然而,移动应用中的模型可以被逆向解析并泄露给攻击者,导致跨节点攻击:在一台被攻破的设备上生成的对抗样本能够在其他共享同一模型的设备上同样成功。
为应对这一威胁,本文提出 VeilNN 防御框架。核心思路是通过受控的模型多样性降低模型之间的对抗迁移性,同时保持原任务的功能不变。VeilNN 在网络结构和参数层面同时进行隐蔽且不可逆的混淆,具体实现包括网络单元混淆和层级重组两大手段,能够适配 MLP、CNN 以及 Vision Transformer 等多种网络架构。
实验在四类主流对抗攻击下评估 VeilNN 的防御效果。平均防御成功率达到 49.19%,最高可达 81.19%,相较于现有防御方案提升超过 33.16%。这些结果表明,适度的模型多样化能够显著削弱跨设备对抗样本的转移能力。
点评:VeilNN 通过结构化的模型混淆在不牺牲性能的前提下,有效阻断了跨设备的对抗传播,为边缘 AI 的安全部署提供了新的思路。