NeFut Logo NeFut
EN 管理员登录

[AI学术] 你的离散图扩散模型暗中记忆

发布于:2026-10-14 22:00 最后更新:2026-10-18 08:05
#algorithm #Machine Learning #Graph

离散图扩散模型(GDM)在马尔可夫噪声下独立向节点和边添加噪声。无特征的无条件设置中,单图上训练的等变去噪器能够生成新图,边重叠和 WL 核相似度等采样指标未发现记忆现象。本文首次展示 GDM 实际存在记忆。我们在两块随机块模型(SBM)上分析逆扩散轨迹,发现强烈的训练数据偏差:模型几乎完美恢复受噪声破坏的训练图,而对未见测试图恢复效果差距显著。我们称之为条件记忆,仅在逆轨迹以受噪声的训练图为条件时出现,推理阶段并不显现。该现象伴随泛化差距扩大——训练损失下降的同时,持出图的损失上升,提前停止也无法缓解。记忆出现的时点始终早于生成图中社区结构的出现,早期检查点只能产生无结构图。该行为在我们测试的所有节点规模上均成立。

点评

原文链接: https://arxiv.org/abs/2610.13786

[h] 返回首页