Hide and Seek (HnS) 是一种概念层级归因方法，完全不依赖模型权重或标注的概念数据集。给定目标概念和一组图像，HnS 首先利用视觉-语言模型检索与概念语义相符的图像，然后在每张图像中定位概念区域，接着对该区域进行遮挡，最后比较原图和遮挡后图像的黑箱模型输出差异，以此量化概念对预测的贡献。该流程直接测量模型行为，能够提供局部（图像级）归因。
实验在 CelebA 和 COCO-Stuff 上进行，结果显示 HnS 与人工标注的真实归因更为一致，优于现有的概念归因方法。进一步的案例包括图像字幕生成和卫星图像分割，这些任务的模型此前没有可用的概念归因手段。代码已随补充材料匿名发布。
点评