自回归模型(ARM)在推理时受到“顺序瓶颈”限制,需要逐步生成答案,导致效率低下。扩散语言模型(DLM)能够并行生成多个候选,但往往缺乏语义连贯性。为同时克服这两方面缺陷,我们提出 协同推理非对称学习(CoRAL),其核心是 非对称规划‑执行(APE) 架构。\
在 APE 中,DLM 规划器并行产生 $K$ 条多样化的推理轨迹;随后,一个规模更大的 ARM 执行器对这些轨迹进行评估,挑选最优方案并合成最终答案。为提升规划器的目标导向性,我们设计了 奖励引导去噪(RDC),将基于结果的奖励信号注入扩散过程,使生成的轨迹更贴近任务目标。\
在视觉‑语言基准上进行的大规模实验表明,CoRAL 在效率和答案质量上均显著超越已有的扩散方法,并且能够与最强的自回归模型竞争,兼具高效与高质量的优势。\
点评