摘要
随着机器学习模型在各个领域的广泛应用，对抗样本成为了可靠部署的重大威胁。近年来，出现了多种强大的对抗样本攻击方法，这些方法能在黑箱场景中快速且高效地生成对抗样本，凸显了对可扩展、低成本且强大防御的需求。
在这项工作中，我们对黑箱对抗样本攻击和防御领域提出了两项贡献。首先，我们提出了随机逻辑缩放（Random Logit Scaling, RLS），这是一种基于随机化的防御策略，旨在抵御基于黑箱评分的对抗样本攻击。RLS 是一种即插即用的后处理防御方法，可以轻松应用于任何现有的机器学习模型。其核心思想是通过输出经过随机缩放的逻辑值来迷惑攻击者，同时保持模型的准确性。
我们展示了 RLS 能显著降低当前最先进的基于黑箱评分攻击的成功率，同时在与现有的随机化防御方法相比时，保持准确性并最小化置信度分数的扭曲。
其次，我们介绍了一种新型自适应攻击，针对 SOTA（最先进的非随机化黑箱防御），该防御通过修改输出逻辑值来迷惑攻击者，展示了其在自适应攻击下的脆弱性。
博主点评： 这项研究提出的 RLS 方法为抵御对抗样本攻击提供了新的思路，特别是在黑箱场景下，展现了良好的防御效果和实用性。通过精巧的随机化手段，RLS 不仅增强了模型的鲁棒性，也为未来的研究提供了新的方向。