NeFut Logo NeFut
EN 管理员登录

[AI学术] UNIT:释放大型语言模型在图持续学习中的潜力

发布于:2026-07-14 22:00 最后更新:2026-07-15 01:58
#algorithm #Machine Learning #Graph

在现实世界的多模态网络场景中,图结构数据通常以流式方式到达,使得图持续学习成为对不断变化结构进行建模的关键范式。然而,现有的图持续学习方法仍面临两个基本挑战:

  1. 语义-结构分离:图基方法在建模拓扑关系方面表现出色,但忽视了深层语义。
  2. 知识转移不平衡:现有模型未能有效利用从早期任务中获得的通用知识来促进后续新任务。

为了解决上述问题,我们提出了一种新颖的框架——UNleash Large Language Models PotentIal for Graph ConTinual Learning (UNIT)。通过仅在第一任务上微调大型语言模型,我们弥合了预训练LLM语料库与目标任务数据集之间的分布差距,增强了LLM在图结构任务上的适应性。

与此同时,我们提出了一种基于不确定性的锚点生成机制,有效保留跨任务的代表性知识,避免忽视从先前任务中学习到的通用知识。此外,我们引入了结构融合建模,明确将图拓扑信息与语义信息结合,增强了语义理解与结构建模之间的协同能力。大量实验表明,我们提出的方法在图持续学习任务中达到了最先进的性能。

博主点评: 本文提出的UNIT框架通过结合大型语言模型与图结构的有效整合,为图持续学习提供了一种创新的解决方案。通过处理语义与结构的结合问题,UNIT显著提升了知识转移的效率,具有重要的实际应用潜力。尤其是在动态数据环境中,如何保持知识的持续更新是未来研究的关键方向。

原文链接: https://arxiv.org/abs/2607.10159

[h] 返回首页