NeFut Logo NeFut
EN 管理员登录

[AI学术] 学习噪声优化用于少步生成模型的奖励对齐

发布于:2026-11-07 22:00 最后更新:2026-11-08 12:04
#AI #Machine Learning #optimization

奖励对齐在扩散和流式生成模型中通常基于随机轨迹进行描述,这在少步、确定性生成器上并不适用。初始噪声优化提供了一种无需轨迹的替代方案,但现有的无梯度方法在推理时需要对每个样本进行昂贵的搜索。我们提出 LeNO(Learning Noise Optimization),它将奖励引导的初始噪声优化 amortize 为一个学习得到的残差传输,同时保持预训练生成器的参数冻结。LeNO 使用 Local GRPO 在标量奖励的指导下学习一个以锚点为条件的噪声校正分布,从而消除测试时的迭代优化。对于采用保持范数投影的高斯初始噪声,我们推导出校正后噪声分布与原先先验之间 KL 散度的可求上界: $$ KL\big(p{\text{corr}}|p{\text{prior}}\big) \le \frac{1}{2}|\Delta|^2, $$ 其中 $\Delta$ 为噪声校正向量。该上界为正则化目标提供了理论依据。我们在少步文本到图像以及蛋白质结构生成任务上评估 LeNO,后者使用代价高昂的黑盒可设计性奖励。实验表明,LeNO 在仅一次噪声校正的情况下即可提升目标奖励,同时基本保持生成质量和多样性。\n\n点评:LeNO 通过学习式噪声校正实现了奖励驱动的少步生成,兼顾效率与生成性能,为实际应用中的快速调优提供了可行路径。

原文链接: https://arxiv.org/abs/2611.06255

[h] 返回首页