摘要
概念驱动的可解释人工智能（AI）能够使模型推理更加人性化，但概念级输出并不自动可信。我们提出了ConceptSMILE，这是一种模型无关的基于扰动的审计框架，用于评估概念驱动解释的可靠性。ConceptSMILE并不是替代SMILE，而是将其基于扰动的逻辑从特征或区域级归因扩展到对人类可理解的概念解释的审计。
该框架通过扰动输入区域，测量概念响应的变化，应用局部加权，并拟合XGBoost替代模型以近似局部概念行为。可靠性通过归因准确性、替代模型保真度、忠实度、稳定性和一致性进行评估。我们在视网膜底部图像上评估ConceptSMILE，通过比较MedSAM生成的视觉概念与基于VLM的语义概念。结果表明，不同概念和路径的可靠性存在差异：MedSAM实现了更强的空间归因和最高的替代模型保真度（$R^2 = 0.8503$, $R_w^2 = 0.8465$），而VLM路径在选择的伪影条件下显示出更强的血管忠实度和稳定性。ConceptSMILE为评估概念驱动的可解释AI的可信度提供了独立的审计层。
博主点评： ConceptSMILE的引入显著提升了可解释AI的审计能力，通过扰动分析提供了更加细致的可靠性评估。这种方法不仅适用于当前的AI模型，也为未来的模型设计提供了重要的指导，尤其是在确保AI决策透明度和可信度方面。其在医学图像处理中的应用展示了该框架的实用性和广泛适应性。