摘要
约束生成模型旨在生成符合复杂可行性约束的样本，同时保持对数据分布的忠实性。现有的约束生成方法通常通过训练时优化或采样时修正来强制执行约束。
训练时优化方法针对由训练分布引起的状态进行优化，但这些状态可能与采样过程中遇到的状态有很大不同。相反，采样时修正方法在推理时修改采样过程，这会引入分布偏移，并且在少步采样时需要昂贵的调优。
我们提出了一种细化训练框架，结合通过在线滚动获得的约束指导，将约束整合进训练过程中。这一方法通过对用于数值积分去噪过程的固定噪声调度进行微分，使训练与采样相一致。这使得模型接触到在去噪轨迹中出现的违规情况，并将扩散学习与采样过程对齐。
在多个任务上的实验表明，我们的方法在保持与之前方法竞争的采样质量的同时，提高了约束满足率。
博主点评： 该研究提出了一种创新的细化训练方法，通过将约束指导融入训练过程，显著提升了生成模型的性能。这种方法不仅解决了现有方法的不足，还为未来的约束生成模型研究提供了新的思路。整体来看，模型的训练与推理过程的整合是提升生成质量的关键。