NeFut Logo NeFut
EN 管理员登录

[AI学术] MePo++:统一表示细化与对齐以实现通用持续学习

发布于:2026-09-08 22:00 最后更新:2026-09-09 09:08
#algorithm #AI #Machine Learning

通用持续学习(GCL)旨在从不断演化的数据流中学习,既没有任务标签,也没有明确的任务边界,更不允许重复访问历史数据,这使得它成为持续智能的真实而艰巨的场景。预训练模型(PTM)拥有丰富的先验知识,能够缓解 GCL 中监督稀缺和分布漂移的问题,但现有的 PTM‑based 方法往往直接微调预训练表征,忽视了两个关键缺口:上游预训练与下游持续适应之间的对齐偏差,以及在模糊数据流下传统输出对齐的可靠性不足。为此我们提出 MePo++,一个统一的后训练框架,通过表示细化对齐将预训练知识桥接到 GCL 场景。MePo++ 包含两个互补模块:

通过在适应前提升表征的可学习性,并在学习过程中保持对齐,MePo++ 使 PTM 能够在捕获新概念的同时保持对演化流的鲁棒性。我们在多种 PTM、数据集以及主流持续学习基线上的实验表明,MePo++ 在提升性能和通用性方面表现一致且显著。代码已开源: https://github.com/SunGL001/MePo_Plus

点评

原文链接: https://arxiv.org/abs/2609.05075

[h] 返回首页