在上下文学习（ICL）中，多模态大型语言模型（MLLMs）能够通过少量标记示例来对图像进行分类。然而，这些模型如何利用所提供的上下文仍然不清晰。尽管链式思考提示被广泛使用，近期研究指出这可能不反映真实的内部计算。
本文系统评估了在少量样本 ICL 下，冻结的 MLLMs 的概念可解释性，采用了五种逐步严格的条件，从基线分类到描述逻辑（DL）公理生成。通过一个独立的 LLM 评判管道对四种最先进的 MLLMs 进行评估，我们表明解释确实比单纯预测更困难。
令人惊讶的是，强迫模型生成正式结构的概念解释会单调降低预测准确性（从 93.8% 降至 90.1%），这与显性推理普遍有助于性能的假设相矛盾。然而，当模型成功表达类别判别的视觉特征时，解释质量与正确预测之间存在强相关性。
我们的发现表明，尽管 MLLMs 在视觉分类方面表现优异，但它们缺乏正式的、机器可验证的可解释性所需的特定指令调优。
博主点评： 本文的研究揭示了 MLLMs 在处理视觉分类时的潜在局限性，尤其是在解释能力方面。尽管模型在预测上表现良好，但其可解释性的缺乏可能会限制其在实际应用中的有效性，值得进一步探索如何优化模型的指令调优以提升可解释性。