NeFut Logo NeFut
EN 管理员登录

[AI学术] LSA-PAST:层特定适配与原型迁移用于组合增量学习

发布于:2026-10-21 22:00 最后更新:2026-10-22 01:04
#AI #Machine Learning #optimization

类增量学习(CIL)让模型能够随时间识别新类别并保持已有知识,但许多实际场景是组合性的——视觉概念由状态(如红色、光亮)和对象(如鞋子、汽车)的基元组合而成。传统 CIL 方法把每个组合视为独立类别,既没有利用基元的共享信息,也缺乏在新组合出现时稳定基元表示的机制。结果是参数更新会交叉耦合基元,导致表示漂移,进而削弱对早期组合的识别能力。

组合增量学习(composition‑IL)正式化了上述问题:在不同任务中不断引入新的状态‑对象组合。为此我们提出 层特定适配与原型锚定适配空间迁移(LSA‑PAST),一种参数高效的专用方案。

LSA 将低秩适配(LoRA)嵌入冻结的 Vision Transformer(ViT),并为状态、对象以及组合分别配置深度专属的适配器层。这样不同层次的特征可以在不干扰主干参数的前提下进行细粒度调节。

PAST 则在每个新任务到来时,通过在当前任务数据上拟合一个仿射变换,将历史锚定的原型映射到当前适配器空间。该过程不依赖回放(rehearsal‑free),保证旧原型在新适配器下仍保持兼容,从而抑制表示漂移。

实验在多个组合增量学习基准上进行,LSA‑PAST 在准确率与遗忘率的权衡上显著超越现有方法,达到了最新的性能水平。

点评

原文链接: https://arxiv.org/abs/2610.27203

[h] 返回首页