在图像分类的人工智能预测中，显著性图（saliency map）可视化技术通过指示特定区域来解释预测结果，但这些方法往往缺乏直观性和语义清晰度，导致理解上的差距。
我们认为，人工智能的解释应该是直观的——既要与用户知识一致，又要简单明了，以加速理解。受艺术绘画的启发，我们提出了 SketchXplain，用于生成基于草图的视觉解释，以实现直观的图像可解释性 AI（XAI）。
SketchXplain 结合了显著性图、概念瓶颈模型和草图优化等技术，整合了显著性以选择一致的观察特征，构建知识一致性的概念，利用线索进行表示，并通过抽象化实现简洁性。
在面部表情识别的评估中，建模和用户研究表明，SketchXplain 支持比显著性图或简单绘图更快的解读和更一致的可视化。此外，在皮肤病变诊断的进一步评估中，SketchXplain 更加清晰地可视化了疾病症状，更好地支持了普通人的诊断。
因此，这项工作展示了草图在直观、简单、一致且快速的图像可解释性可视化中的价值。
博主点评： SketchXplain 的提出是对传统显著性图可视化方法的一次重要补充。通过结合艺术性草图，增强了人机交互的直观性和可理解性，为非专业用户提供了更友好的解释工具，极大地提高了图像分类的可解释性和实用性。