解释时间序列模型需要定位证据并提取有意义的知识。单个时间步并非语义单元，真正的模式跨越多个样本，导致逐步显著性噪声大、维度高且不稳定。已有方法通过固定大小窗口将其视为合作博弈中的独立玩家，并需为玩家联盟定义“基线”区域，常用平坦线、噪声或频谱替代等固定反事实，这会主导解释结果，掩盖模型真实决策。
GRAIL 将领域特定区间（如 ECG 心电图的 P 波、QRS 复合波）作为玩家，并用可读特征描述每个区间。反事实基线由在流形上的条件生成器生成，保证基线与原始数据分布一致。静态协变量（年龄、性别等）作为单例玩家加入，同一尺度上与时间区间直接比较。模型预测通过 Owen 值分配给各特征，并使用公共随机数进行方差缩减。
在合成数据和真实 ECG 数据上的实验表明，GRAIL 能在匹配的 on‑manifold 与 off‑manifold 操作下提供忠实、鲁棒的解释，帮助领域专家获取有意义的知识。
点评