少步流模型通过少量大幅度去噪转移生成样本。将 GRPO 应用于此类模型时,需要在去噪转移中引入随机性;当单个转移跨越宽广的噪声水平时,所得到的随机策略对优化影响巨大。已有方法通过约束策略保持目标流系数来限制搜索空间,但该约束仍允许一族策略,缺乏选取准则。我们提出 Geo‑FSRL(几何优化少步强化学习),其选择原则是:在固定的条件状态‑时间对上,选取在任意非零速度输出更新下使条件 KL 散度最小的可行策略。对于保持系数的各向同性高斯转移,这一准则等价于最小化一个标量几何因子,该因子决定所有速度输出更新的条件 KL、速度空间 Fisher 信息以及转移对数似然比方差。我们在该族中推导出唯一的闭式解,该解对所有非零更新幅度和方向相同,转移系数由源噪声和目标噪声共同决定。由于最小化后的几何因子仍随时间步变化,我们进一步采用先前工作的梯度尺度匹配,得到闭式的策略梯度权重和 KL 权重,用以归一化显式得分尺度和参考 KL 曲率。Geo‑FSRL 在原始少步调度上训练,推理阶段仍使用确定性求解器。实验在 4 步设置下,对图像生成和视频生成模型分别比较 Flow‑GRPO 与 Flow‑CPS,取得更高的最终奖励分数。代码已开源:https://github.com/ModelTC/LightX2V/tree/main/lightx2v_rl
点评:Geo‑FSRL 通过明确的几何准则消除了策略选择的歧义,实现了跨任务的一致优化,并在少步流模型上展示了显著的性能提升。