Diffusion 语言模型(DLM)通过双向去噪和迭代细化实现生成,但实际控制仍依赖于 token 级别的遮蔽调度,这使得草稿层面的细化隐式化,难以显式决定何时插入缺失内容、删除冗余片段、重新审视不确定区域或停止编辑。
我们提出 Diffusion Editing Language Adapter(DELA),它是一个插件框架,能够在保持 DLM 参数冻结的前提下,对可变长度的干净草稿进行可控的编辑。DELA 定义了四种显式编辑动作:Insert、Delete、Remask 和 Stop。控制器负责决定编辑的时机和位置,而冻结的 DLM 负责通过去噪填充被遮蔽的区域,实现高层编辑控制与 token 级生成的解耦。
单阶段编辑器会因任意内部编辑破坏前缀稳定性而导致 KV‑cache 复用受限,计算成本大幅上升。为此,DELA 采用两阶段解码:
- 快速追加草稿阶段——仅在末尾追加内容,能够充分复用 KV‑cache;
- 全局细化阶段——对完整草稿执行有针对性的非单调编辑,实现全局优化。
控制器的训练采用分阶段 curriculum:
- 第一步在合成恢复任务和从数据中挖掘的编辑动作上学习局部编辑先验;
- 随后通过 rollout‑based 的结果偏好以及下游任务反馈进行编辑选择的微调。
实验在数学推理和代码生成任务上进行,结果显示在保持主干模型冻结的情况下,DELA 相比直接扩散解码提升了最高 5.5% 的准确率。
点评:DELA 将编辑控制提升到草稿层面,提供了模块化、低成本的可控生成方案,为扩散语言模型的实际应用打开了新路径。