在扩散模型微调中选择 LoRA 秩需要在生成质量与计算成本之间取得平衡。我们在 CIFAR-10 数据集上使用 DDPM U‑Net 进行受控实验,分别测试了秩 {2,4,8,16,32},保持优化超参数不变,并采用可复现的本地文件夹 pytorch-fid 评估流程。实验记录了 FID、可训练参数数量、运行时间以及 GPU 显存占用。
随后,我们在更高预算的设置下进一步验证趋势:对 DDPM 进行 20 轮训练(秩 4/8/16)以及在 Tiny DiT 主干上进行 10 轮训练(秩 4/8/16)。结果显示,适中的秩最具效率:秩 4 在 DDPM 上取得最佳 FID 124.1380,秩 8 紧随其后(124.2136),而更高的秩虽增加了适配成本,却仅带来有限的性能提升。
这些实验表明,在固定的训练预算下,选择小到中等的 LoRA 秩(如 4 或 8)是实用的默认配置。
点评:本文提供了系统化的实验数据,帮助研究者在资源受限的场景下快速确定 LoRA 秩的取值,避免盲目追求更高秩而导致成本浪费。