NeFut Logo NeFut
EN 管理员登录

[AI学术] RD-JEPA:面向少轨迹迁移的反应扩散方程预测潜在预训练

发布于:2026-09-25 22:00 最后更新:2026-09-28 00:49
#AI #Machine Learning #Neural

学习时变偏微分方程的代理模型通常需要在控制算子变化时重新构建仿真数据集。我们提出 RD‑JEPA,一种联合嵌入的预测架构,用于在反应‑扩散轨迹上进行自监督预训练。模型在五个参数化系统上统一预训练,然后在三个未见系统上进行迁移,这些系统的反应算子和轨迹在预训练阶段均未出现。\

在迁移阶段,仅使用来自未见系统的 1、5 或 10 条完整轨迹,RD‑JEPA 在平均相对离散 $\ell^2$ 场误差和平均绝对空间一阶差分误差上均优于五个监督基线、一个去除轨迹依赖预测潜在通路的独立控制模型,以及一个从零开始训练的同构模型。\

实验覆盖了不同的方程形式、输出分辨率、预测时长以及适配轨迹的选择,结果表明,预测未来状态的潜在表示能够在相关的反应‑扩散系统之间实现数据高效的适配。\

点评

原文链接: https://arxiv.org/abs/2609.29403

[h] 返回首页