NeFut Logo NeFut
EN 管理员登录

[AI学术] ATEMPO:基于摊销的转移熵模型逐时滞估计

发布于:2026-10-28 22:00 最后更新:2026-10-29 00:58
#algorithm #AI #Machine Learning

当一个时间序列对另一个产生信息时,信息到达的延迟决定模型能否有效利用这种关系。源序列在某一时滞上可能具有强预测能力,而在相邻时滞上则几乎不提供信息。因此,固定长度的输入窗口会把有用和无关的历史混在一起,掩盖真实结构。转移熵(Transfer Entropy, TE)通过衡量源序列过去相对于目标自身历史对目标的额外解释力,能够恢复这些时滞。然而,现有 TE 估计器需要在源深度和条件深度上分别拟合,并在局部窗口上重复估计以追踪时变延迟。我们提出 ATEMPO——一种基于扩散模型的 TE 估计器,在时滞和时间维度上进行摊销。训练时随机抽取源深度 $k$ 和条件深度 $l$,并显式加入时间位置作为额外条件,使单一得分网络能够一次性输出完整的 TE 曲面,无需重新拟合。对该曲面做差分即可得到信息到达的时刻。实验在合成数据集(已知真实 TE)上,ATEMPO 的平均相对误差最低;在已知时滞的数据集上,ATEMPO 的时滞检测准确率为 $0.98\pm0.04$。ATEMPO 只需对源深度 $K=6$、目标深度 $L=3$ 进行一次拟合,而传统估计器需要对同一 $K\\times L$ 网格进行 18 次独立拟合。对三个具有时变时滞的系统,ATEMPO 是唯一在所有窗口长度下保持完美时滞检测的估计器。这些恢复的时滞提升了下游预测性能:在 WEATHER-5K 数据上,使用 ATEMPO 选取的输入特征使 MSE 降低 7.25%,而 120 条选取的特征甚至比基准的 240 条默认特征好 4.6%。在三个脑机接口任务中,基于 ATEMPO 选取的时滞实现了最高或并列最佳的 $R^2$,相较最强基线平均提升 4.1%。

点评:ATEMPO 通过一次性学习完整的转移熵表面,显著降低了计算成本并提升了时滞检测的鲁棒性,为时序因果分析和预测提供了实用工具。

原文链接: https://arxiv.org/abs/2610.36536

[h] 返回首页