在多变量时间序列系统中,稀有且代价高的事件往往缺乏足够的前置观测,使得纯数据驱动的模型难以学习。系统工程师通常掌握这些事件的先验知识,这类信息在标签稀缺的情况下尤为关键,我们称之为语义先验。KITE 通过两种可切换机制将语义先验注入自监督事件预测模型:
- 协变量机制:将先验作为额外的协变量并与原始特征拼接;
- 注意力偏置机制:在注意力计算中加入先验驱动的偏置项。
两种机制在未使用先验时均退化为恒等映射,因而同一网络结构即可兼容任意先验类型,无需为每个数据集单独搜索架构。实验表明,当先验提供了观测窗口未包含的信息时,模型性能显著提升。以短上下文为例,使用周期性时钟先验相较于无先验基线在 h‑AUROC 上提升了 14%(p<0.05),且在多种真实业务数据集上均实现了稳健的增益。该方法展示了将领域知识系统化嵌入深度时序模型的可行路径,为稀有事件预测提供了新的思路。
点评:KITE 的设计巧妙地平衡了模型通用性与先验利用效率,避免了繁琐的架构搜索,同时通过可切换机制实现了对不同类型先验的统一支持,具有较高的实用价值。