摘要
尽管大规模文本到图像生成模型在视觉性能上取得了前所未有的进展，但其固有的多步迭代求解器依赖性导致了严重的推理延迟。针对无分类器引导（CFG）轨迹的少步蒸馏方法已经成为一种流行的双维压缩范式。然而，现有框架仍受到粗糙的盲注入范式的限制，这种范式始终强制施加全球静态的引导强度，同时无差别地抽样监督时间步。这种状态无关的设计完全忽视了图像生成作为动态演变过程的内在特性，该过程以逐步熵减少为特征，这不仅限制了少步压缩的性能边界，还导致了严重的CFG过度条件化伪影。
为了解决这些限制，我们通过信息理论的理论视角重新审视蒸馏过程，正式将其建模为一个受信息瓶颈（IB）原理约束的动态互信息博弈。具体而言，我们通过双轨自适应框架拆解传统的盲假设。为了确定注入目标，我们提出了一种实例感知选择机制，将难以处理的KL散度约束转化为基于局部向量场范数的零开销闭合解。为了调节注入强度，我们引入了一种熵感知调度，该调度随着信噪比（SNR）的动态衰减而变化，在初始结构锚定时施加最大推力，然后平滑地回归到自然流形以细化微观细节。广泛的经验评估证实，我们的框架从根本上消除了过度条件化伪影，打破了性能上限，在极其严格的2步配置下实现了SOTA生成保真度。
博主点评： 本文提出的IB-Flow方法通过引入信息瓶颈理论，显著提升了少步文本到图像生成的效率和质量。动态调整引导强度和实例感知机制的创新设计，为图像生成领域带来了新的思路，指向了更高的生成保真度和更低的推理延迟，值得深入关注。