NeFut Logo NeFut
EN 管理员登录

[AI学术] 一种计算可行的因果概率解释框架

发布于:2026-09-05 22:00 最后更新:2026-09-06 01:02
#algorithm #AI #Machine Learning

解释特定结果为何会出现,以及哪些输入应当受到责备或表扬,是哲学、科学和政策分析的核心问题。现有方法大致分为两类:实际因果性(AC)理论能够给出原则性的判定,但只能处理规模极小的模型,因为其计算需要枚举所有反事实情形;而可扩展的归因方法(如 SHAP 及其因果变体)往往忽略生成数据的因果结构,可能得到与严格因果分析相冲突的答案。

我们提出 Probabilistic Causal Impact (PCI) 来弥合这一鸿沟。PCI 以 AC 为基础,并结合 Pearl 提出的必要性概率 $P(N)$ 与充分性概率 $P(S)$,但将解释问题重新表述为对概率因果模型的估计任务,可通过 Monte Carlo 方法高效近似。具体做法是:① 定义一组“候选解释”的分布;② 对每个候选解释生成对应的反事实值分布;③ 设计评分函数 $\text{score}(e)=\mathbb{E}[\text{impact}\mid e]$ 来衡量解释的因果贡献。

在此框架下,AC 与 Pearl 的因果概率分别是 PCI 的退化情形:当候选解释集合仅包含单一变量且评分函数取极限时,PCI 的输出即恢复原有的确定性因果判定。

我们在合成数据和真实案例上对 PCI 进行评估,实验包括:与 AC 的一致性检验、规模扩展实验、复杂连续动态系统的因果分析,以及在数百万样本上部署的因果机器学习模型的实际应用。结果表明,PCI 在保持因果解释严谨性的同时,具备显著的计算可行性。

点评

原文链接: https://arxiv.org/abs/2609.04177

[h] 返回首页