在过程工业中,时间序列预测和软传感器用于估计难以在线测量的质量变量。然而,标记数据稀缺,操作模式频繁变化,重新训练模型或为每种情况重建对齐管道的成本很高。现有的文本增强方法通常将输入视为匿名的数值列,缺乏对输入变量与预测目标之间语义逻辑关系的充分利用。为了解决这一问题,本文提出了任务语义场因子分解(TSF),这是一种基于大型语言模型(LLM)的框架。
TSF首先从任务协议和变量文档中构建任务语义场,然后在训练前使用LLM进行离线语义构建,而在线训练和推理仍然使用传统的时间序列骨干网络。在训练和推理过程中,当前的数值窗口激活变量语义,使得语义信息参与每次预测,支持对不同预测目标和操作变化的适应。
在多个复杂的工业预测和软传感任务中,TSF在改进设置下平均减少了6.4%的MAE,最大减少幅度达到25.5%。而且它仅增加了约1.8到3.0千个参数,额外的在线推理开销不到0.008毫秒/步。这些结果表明,TSF将现有的过程文档转化为可测量的预测收益,同时保持轻量级以便于部署。
博主点评: TSF框架展示了如何将传统的时间序列预测与现代语言模型结合,提升工业过程预测的性能。通过引入语义信息,TSF显著改善了模型的适应能力和预测精度,为工业应用提供了新的思路。其轻量级特性也使得在实际部署中更具可行性。