摘要
现实世界的时间序列展示了复杂的动态特征,这些特征由多种同时存在的时间模式构成:短期波动、周期性季节循环、长期趋势及不规则的突变。然而,许多现有的预测架构依赖于单路径的时间建模——变换器捕捉长程依赖性但平滑局部变化,卷积模型捕捉局部模式但感受野有限,而线性模型高效但无法捕捉非线性动态。为了解决这一问题,我们提出了 RhyMix(RHYthm MIXture),一种围绕并行双路径建模范式设计的混合神经架构,具有自适应门控机制。
RhyMix 集成了两个互补的编码分支:
- 周期路径:通过可学习的周期嵌入引入明确的季节性归纳偏置,捕捉可预测的节奏模式;
- 轻量级多尺度时间卷积网络与通道注意路径:采用多尺度深度扩张卷积捕捉不同感受野下的时间依赖性。
一个关键的创新是使用多层次的自适应门控:路径门动态组合四个专门的预测头(直接、趋势-季节分解、本地卷积和周期融合),同时混合门根据输入特征自适应平衡周期和 MSTCN-CA 路径。这一设计确保模型能够适应特定的时间模式,同时在序列长度、通道和预测视野上保持线性复杂度。
在 12 个真实世界数据集的长期预测基准测试中,RhyMix 在 10 个数据集上达到了最先进的性能。该模型保持轻量(约 40K 参数),具有线性复杂性和低延迟推理。
博主点评: RhyMix 通过引入并行双路径模型和自适应门控机制,成功克服了传统时间序列预测模型的局限,展现了其在复杂动态捕捉上的潜力。此外,模型的轻量性和高效性使其在实际应用中具有广泛的前景。