摘要
近年来,多变量建模在时间序列基础模型(TSFMs)中的应用逐渐增多,这些模型实现了先进的零-shot 泛化。然而,现代的多变量 TSFMs 多数是在合成数据上进行预训练,这种方法虽然更易于扩展,但可能无法捕捉到真实时间序列中复杂的时间动态和变量间关系。这引发了一个关键问题:在多大程度上,使用真实语料库训练的领先 TSFMs 是否表现优于那些使用合成数据训练的模型?
为了解答这一问题,我们建立了 RMISC 语料库,这是一个规模可观、高质量、开放可获取的真实多变量时间序列档案,包含约 200 个数据集和 1420 亿个时间点,覆盖多个领域。此外,我们在单变量、合成多变量和真实多变量数据上预训练了四个先进的 TSFMs,并在标准的分布内和分布外基准上评估了它们的零-shot 泛化能力。实验结果表明,结合真实多变量数据显著提高了单变量和多变量 TSFMs 的泛化性能。这些结果提供了对真实多变量数据如何推动更强 TSFMs 发展的更深入理解。
博主点评: 本文通过构建 RMISC 语料库,深入探讨了真实数据与合成数据在时间序列建模中的重要性,为多变量时间序列模型的研究提供了宝贵的实证支持。其结果表明,真实数据在提升模型泛化能力方面的作用不可忽视,未来研究应更多关注如何有效利用真实数据。