摘要
XAI（可解释人工智能）领域研究了多种查询和评分方法用于解释机器学习模型的预测。随着解释概念的多样化，从数据管理的角度来看，迫切需要一种声明式查询语言，以便统一地指定、组合和分析这些概念。本文开发了适用于布尔模型的框架。
我们首先回顾了 FOIL——一种用于黑箱模型的可解释性查询语言，并指出其存在两个基本限制：一是无法表达基于最优性的核心解释查询，二是在决策树上的评估问题对多项式层次的每一层都是困难的。
接着，我们引入了 ExplAIner，这是一种基于 FOIL 的查询语言，具有扩展的词汇和分层结构。我们证明了 ExplAIner 能表达广泛的解释概念，包括归纳、对比、特征基础和基于距离的查询。我们还证明了 ExplAIner 中每个查询的评估问题属于布尔层次，对于某些基本谓词可以在多项式时间内评估的每类布尔模型均成立。特别地，该性质适用于确定性和可分解布尔电路。
最后，我们引入了 Opt-FOIL，一个面向优化的 ExplAIner 片段，用于计算相对于严格偏序的最小解释，并证明其评估问题在 $\mathrm{FP}^{\mathrm{NP}}$ 中，基于相同的可处理性假设。这些复杂性结果具有直接的算法后果：固定的 ExplAIner 查询可以在固定次数的 SAT 求解器调用下被评估，而在 Opt-FOIL 中指定的解释概念可以通过多项式次数的调用计算。这在正式的 XAI 中尤为相关，因为 SAT 求解器已成功用于计算多类机器学习模型的解释。
博主点评： ExplAIner 的提出为可解释性提供了新的思路，尤其是在面对复杂模型时，它的多样化查询能力能够帮助研究者深入理解模型决策过程。这不仅提升了模型透明度，也为相关领域的进一步研究奠定了基础。其复杂性分析为实际应用提供了重要的算法指导，显示出其在现实问题中的潜力。