在深度神经网络（DNNs）广泛应用于安全关键领域的背景下，如何在有限的测试预算内降低模型验证成本显得尤为重要。现有的测试用例优先级技术通常依赖于单个检查点的置信信号，这些信号是通过输出概率得出的。然而，DNNs 有时可能自信地做出错误的判断，且模型预测类与竞争类之间的置信度差距往往较小，从而削弱了早期故障的发现能力。
为了解决这一局限性，我们提出了一种基于神经崩溃不稳定性的优先级优化框架（NCIP），该框架用训练终期阶段的交叉检查点预测变异性替代了绝对置信度。在这一阶段，模型几何结构高度规范化。
NCIP 引入了两个关键组件。首先，它使用分类器权重的等角度得分选择一个受 NC 指导的训练检查点代表子集，该得分通过计算类权重向量之间的成对余弦相似性的标准差来量化。其次，它根据所选检查点的预测变异性对测试输入进行优先级排序，从而揭示在检查点引起的决策边界变化下，接近边界且易失效的样本。
在多个数据集和架构上的广泛实验表明，NCIP 在早期故障发现方面的表现强于竞争基线，在相同测试预算下，RAUC-ALL 增益可达 1.5% 到 16.6%，RAUC-500 增益可达 4.9% 到 20.6%。此外，NCIP 在所有数据集-模型对中实现了最佳的平均性能。
博主点评： NCIP 框架通过引入交叉检查点的预测变异性，显著改善了 DNNs 的测试用例优先级排序，解决了传统方法在处理置信度不可靠时的不足。这种创新方法为深度学习模型的安全性和可靠性提供了新的视角，值得深入研究与实践。