摘要
扩散模型在图生成领域表现出色,尤其是在分子设计等应用中。然而,如何将这些模型扩展到大规模图仍是一个未解的问题。我们通过图的密集图元(graphons)这一角度来探讨此问题,研究结构图统计在节点规模上的行为。
DiPhon 框架
我们提出了 DiPhon,一个用于可扩展图生成的扩散框架。具体而言,我们通过雅可比随机微分方程(SDE)在图元空间上构造了连续扩散过程,并提出了 DiPhon,一个离散化的图级过程,模拟这些动态在有限图上的表现。
反向过程的推导
我们进一步推导了相应的反向时间过程,这需要访问边际得分。对于雅可比过程,这个得分采用了一个有趣且可处理的形式,我们通过图去噪从数据中估计该得分,并将其插入到反向过程中以生成图样本。
理论证明
我们证明 DiPhon 完全匹配由连续图元过程引发的边际分布的第一矩,并且在封闭形式的差异下近似第二矩。因此,DiPhon 继承了图元动态的关键无规模统计特性,为可扩展的图生成提供了一个合理的途径。
实证结果
通过在小图上训练,并在推理时生成逐渐增大的图而无需重新训练,同时保持其核心拓扑特性,我们实证展示了这种可扩展性。
博主点评: DiPhon 的提出为图生成领域带来了新的思路,尤其是在处理大规模图时。通过图元的视角,该方法不仅确保了生成图的统计特性,还提高了模型的灵活性和实用性,具有重要的研究意义和应用潜力。