论证框架是一类用于在多种情境下表示和推理信息的工具,例如在分类任务中为 AI 模型提供可解释性。本文聚焦于量化双极论证框架(QBAF),该形式化能够同时处理支持与攻击关系,并对每个论点赋予数值强度。传统的解释方法只关注单个目标论点的推理结果,而对比解释则关注两个目标论点之间的差异。我们首先给出对比归因函数(CAF)的通用定义,并列出其应满足的若干性质,如对称性、可加性和局部性。随后基于三种技术实现 CAF:
- 删除法:通过逐步移除论点或关系观察结果变化;
- 梯度法:利用对论点强度的导数衡量敏感度;
- Shapley 值法:从合作博弈视角分配贡献。
对每种实现我们分析了其满足的性质及计算复杂度。最后在两个实际场景中展示了对比解释的价值:在医疗诊断中比较两种可能的疾病标签以帮助医生判断;在偏见检测中对比不同群体的决策结果以揭示潜在的不公平因素。通过这些实验,证明对比解释能够提供更细粒度的洞察,补足单点解释的局限性。
点评