近年来，基础模型和图预训练技术的快速发展引发了对构建通用预训练图模型或图基础模型（Graph Foundation Model, GFM）的日益关注。然而，现有模型无法在没有文本信息的情况下处理图数据中的特征异质性，这限制了图模型在不同数据集之间的可迁移性。
为了解决这一问题，我们提出了可学习图块的概念，将其视为任何图数据的最小语义单元。我们通过展开节点特征并分别构建对应的块结构，将图分解为可学习的图块。接着，我们设计了一个框架，以挖掘跨域图数据的可迁移信息。
具体而言，在提取图块后，我们提出了一种块编码器，用于从每个单元中提取知识，以及一种块聚合器，用于学习如何将这些单元组合成整体。由于其领域无关的特性，该模型可以应用于跨不同领域的下游数据。
此外，我们分析了我们的方法与现有图模型之间的联系，以及它生成的节点嵌入的可迁移性。从经验上看，我们的方法不仅能够使用多域图进行预训练，还在各种下游数据集和任务中显示出增强的性能。
此外，我们观察到，随着预训练数据量的增加，下游性能持续改善。
博主点评： 本文提出的可学习图块概念为图模型的可迁移性提供了新思路，尤其在处理特征异质性方面具有重要意义。通过有效的块编码和聚合机制，模型在跨域应用中展现出强大的潜力，值得在实际应用中进一步探索。