摘要
扩散语言模型（DLMs）在自然语言生成任务中取得了显著进展。近期研究表明，自适应的令牌生成顺序可以显著提升数学推理和代码合成的性能。本文探讨了文本到图像合成及多模态理解中的生成顺序优化。
首先，我们确定，与语言生成中的结构性问题（如数独）不同，模型的 logits 单独不足以决定文本到图像生成和多模态理解中的最佳生成序列。为了解决这一挑战，我们引入了一个可学习的控制模块，通过组相对策略优化（GRPO）进行训练，以确定生成顺序。
我们的结果表明，学习该控制模块显著提高了 DLMs 在文本到图像对齐和多模态理解方面的能力。特别是，它增强了模型捕捉生成图像中细粒度空间关系的能力，同时加强了在多模态推理和理解任务中的表现。
我们在 GenEval 上评估了我们的框架，这是一个以对象为重点的文本到图像对齐基准，取得了 4.08% 的相对提升。此外，在 VLMEvalKit 上的实验确认了 4.85% 的多模态理解相对提升，突显了我们方法的广泛有效性。
博主点评： 本文通过引入可学习的控制模块，成功解决了多模态生成中的顺序优化问题，展现了在文本到图像和多模态理解任务中的潜力。这为后续研究提供了新的思路，值得关注。