摘要
时间序列基础模型（TSFM）作为时间序列分析的通用模型，尽管预训练能力出众，但单靠预训练往往不足以实现可靠的下游部署。为了应对领域转移、任务异构性、有限监督和计算约束等问题，后训练成为了一类重要的方法，旨在适应、增强、组合、校准或专业化预训练的 TSFM 以满足下游任务的需求。
后训练方法分析
我们将 TSFM 后训练方法根据其在预测管道中的干预位置分为五类：
- 参数适应：调整模型参数以适应特定任务。
- 上下文增强：通过引入额外信息来改善模型的输入上下文。
- 模型组合：将多个模型结合以提高整体性能。
- 输出处理和不确定性控制：优化模型输出并管理预测不确定性。
- 压缩与专业化：减少模型复杂性并针对特定应用进行优化。
在每一类中，我们研究了主要代表性方法，并讨论了它们当前的局限性。
我们还识别了未来的研究方向，包括控制适应、可靠的上下文构建、关注不确定性的模型组合、校准输出处理以及适应部署的专业化。
结论
通过为新兴的 TSFM 后训练领域提供统一框架，本研究旨在支持未来的研究，以便在预训练 TSFM 与其可靠的下游部署之间导航设计空间。
博主点评： 本文针对时间序列基础模型的后训练方法进行了全面的分类与分析，提供了清晰的框架，有助于研究者理解如何有效地将预训练模型应用于实际任务中。尤其是在面对多样化的任务和数据时，后训练策略显得尤为重要，未来的研究可以围绕此主题展开更深入的探讨。