近日,arXiv 上发布了一篇题为《CAS:一种用于可解释人工智能的因果归因评分》的论文。该论文介绍了因果归因评分(Causal Attribution Score,CAS),一种用于因果解释的紧凑评分体系。CAS 首先根据干预联盟博弈进行识别,然后使用因果 Shapley 贡献分配联合干预对比,并将这些原始结果转换为局部 CAS、有符号局部 CAS 和两个互补的全局 CAS 总结。 CAS 的创新点不在于新的 Shapley 公式,而在于具有明确干预目标的局部到全局因果报告层。 在已知真值基准中,八次重复的主要交互模拟(n = 2,200,每次三个动作)给出了 coalition-aware CAS 的局部 CAS MAE 均值为 0.107,与 one-at-a-time 归一化的 0.173 和全局归一化绝对 ATE 向量的 0.213 相比。 博主点评: 因果归因评分 CAS 为可解释人工智能提供了一个紧凑的评分体系,能够有效地区分预测结果与解释因果效应的异质性,使得我们能够更好地理解模型的决策过程和因果关系。