摘要
现有的交通预测模型通常专注于提取空间依赖关系，尤其是全球空间信息，该信息通过交通网络中每个节点与所有节点之间的交互来表征。然而，这种全球信息的建模和提取机制仍然不够深入研究。究竟全球信息是否必须通过高自由度的自适应注意力提取，或是可以通过简单的全局聚合算子捕获，尚不明确。
为此，我们设计了一个受控消融框架，仅替换空间混合模块来测试基于注意力的全球交互。在六个交通基准测试中，均匀全范围混合和标准空间注意力在三个数据集上均实现了较低的平均绝对误差（MAE），两者之间仅有0.14%的差异，同时前者将节点规模的空间混合复杂度从 O(N^2) 降低到 O(N)。
机制分析进一步将空间注意力分解为行均匀的全局背景和非均匀的残差。残差显示出依赖于数据集的边际价值，表明空间注意力应当由稳定的增益来证明，而不仅仅是行均匀的全局背景。相应的源代码可在以下链接获取：GitHub - U-Trans
博主点评： 本文通过对比注意力机制与全局聚合算子的效果，揭示了交通预测模型中空间信息提取的潜在简化路径。研究结果表明，复杂的模型并不总是提供显著的性能提升，这对未来模型设计具有指导意义。