离散扩散模型通过并行解析多个 token 生成序列,克服了左到右生成的局限。但在序列层面目标下进行引导困难,因为未解析 token 的价值取决于其可能组合成的高奖励序列。枚举所有完成方式会导致计算随未解析位置指数增长。COFFEE 框架通过将序列依赖与目标分离,避免了枚举。在每一步扩散中,目标无关的 carrier 吸收去噪器给出的边缘 token 分布,构建未解析 token 的联合模型;同时,一个编译的有限状态模型记录这些组合如何影响序列偏好。将两者状态配对后,COFFEE 能把全局偏好转移到未解析位置,并在不重新训练扩散模型的情况下采样干净的重构。该框架同样支持显式硬约束和学习的软目标。实验在符号、语言和生物等基准上验证,COFFEE 在控制效果、质量和多样性之间实现了任务依赖的权衡。通过在推理阶段提供目标而非仅用于评估,COFFEE 将联合条件、加权完成引导和基于优化的约束引入预训练神经生成,展示了神经符号方法在扩散引导中的潜力。
点评