深度学习图像分类器在预测性能上表现优异，但其决策形成过程却往往不透明。模型可能在依赖无关线索、捷径关联、外围结构或设备级伪影的情况下做出正确预测，而非任务相关区域。在大规模数据集上，这种不透明性尤其成问题，因为逐一检查热图无法扩展到数千个预测。
为此，我们提出了基于相关性的模型决策可解释性框架（ReMoDEx），旨在系统性地评估图像分类中的模型决策行为。ReMoDEx定义了一套逐步管道：模型推理、目标类选择、相关性图生成、热图标准化、基于相似性的模式分组、聚类级别解释和空间相关性评估。地方性方法如GradCAM++、集成梯度、遮挡敏感性和层级相关传播等，均与一个全球模块独立结合，该模块将整组相关性图汇总为少数决策策略集群，从而用自动化的可扩展摘要替代逐样本检查。
为了演示ReMoDEx，我们将其应用于一个基于VGG16的分类器，该分类器区分COVID-19、正常、肺部浑浊和病毒性肺炎。分类器显示出稳定的性能（测试准确率86.27%，测试AUC 0.9624）。然而，每个解释器与全球模块结合后，持续产生两种反复出现的策略：中心胸部区域决策和边缘/角落敏感决策，这表明可能存在捷径学习，这些是传统指标无法揭示的。经过遮挡图像验证后，发现当中心或外围区域被遮挡时，模型的信心和预测类别发生了变化。因此，ReMoDEx提供了一种可扩展的基于相关性的决策评估框架，是准确性评估的一个重要补充。
博主点评： ReMoDEx通过系统的方法解决了深度学习模型在大规模图像分类中的可解释性问题。其创新的全局模块和多种局部方法的结合，能够有效地揭示模型的决策策略，尤其是在传统评估方法无法捕捉的情况下，这为后续研究提供了重要的思路和工具。