摘要
随着用于图像分类的神经网络模型不断进步，神经元在剪枝、后门防御和可解释性等方面发挥着关键作用。然而，现有研究对权重重要性关系缺乏清晰的分析。我们提出了一种神经元重要性评估方法，进行了三个实验：量化高权重与影响准确性的神经元之间的重叠，分析高权重神经元的扰动效应，以及测试高权重神经元去除后的重训练准确性。
在CIFAR-10和Mini-ImageNet上的实验揭示了一些关键模式。重叠分析显示，前10\%的高权重神经元与重要神经元的重叠最大仅为25\%，在后续区间进一步下降。扰动测试发现，前10\%的高权重神经元在某些操作下导致的准确率下降为45-80\%，而随机扰动的准确率下降仅为3-7\%；但其中三分之一的神经元表现出微小的影响。去除重训练结果显示，移除前10\%的高权重神经元使得准确率比基线低10-20\%，且没有恢复，而去除前0.1\%的神经元则几乎可以完全恢复。
值得注意的是，一些低权重区间在扰动时显示出10-17\%的准确率下降， comparable于中等高权重神经元。这些结果确认并非所有高权重神经元都是重要的：它们的重要性是非线性的。低权重神经元同样显著贡献。这一发现挑战了权重与重要性的等价关系，为神经元角色提供了更深刻的见解，支持在加密等应用中优先考虑关键的高权重神经元，并在剪枝中去除非关键的神经元，推动神经网络分析的进步。
博主点评： 本文揭示了高权重神经元的重要性并非一成不变，强调了低权重神经元的潜在贡献，提供了对神经网络更深层次的理解。这对未来的网络设计和优化具有重要指导意义，尤其是在需要精确控制神经元行为的应用中。