Temporal foundation models 如 Chronos、TimesFM 通过统一的数值观测空间实现跨域泛化。离散事件序列(DES)如运营日志或患者临床轨迹则拥有各自的事件词表,标签在不同领域之间缺乏对应关系。实际场景中事件种类数目往往很大,导致传统的时间点过程模型和现有的上下文推理模型(如 FIM‑PP)难以直接应用。现有的 DES 基础模型只能处理少量固定事件类型,难以覆盖高维事件流。
为了解决上述瓶颈,本文提出两套互补模块:(i)DES‑JEPA,采用联合嵌入预测架构,从具有未对齐词表的合成随机过程学习共享离散词表;(ii)DES‑PFN,基于学习到的词表构建离散事件序列先验网络,用于上下文中的下一事件预测。该框架在不进行任务特定微调的前提下,在八个未见真实数据集上实现了竞争性的零样本性能,并且能够扩展至 700 种不同事件类型。
点评