摘要
大型语言模型在递归精炼工作流中的应用日益普遍，初稿经过同一模型的多次修订。尽管这种应用越来越广泛，但其长期动态仍然不够清晰。反复的修订是否能无限提高输出，还是趋向于某种稳定的文本形式？
我们将递归自我精炼视为一种动态过程，研究重复的 LLM 修订如何将文本驱动向模型偏好的软固定点区域。使用 GPT-5.5，我们为 50 个 ICML 2025 摘要生成 10 步精炼轨迹，采用默认温度和确定性解码，同时还评估了 15 个 ICML 2020 摘要。
我们分析了归一化编辑距离、精确和近似固定点、字数稳定性、指数放松及外部 LLM 评估。结果显示，所有设置下的精炼轨迹迅速饱和。大多数编辑发生在最初的几次迭代之后，轨迹进入一个软固定点区域，仅有微小的表面变化。确定性解码比默认温度解码更早达到精确固定点，并且残余波动较小，而两者都实现了普遍的近似收敛。
平均编辑幅度遵循一致的指数放松模式，表明趋向于模型偏好的文本平衡，而非开放式优化。外部评估表明，收敛的摘要在清晰性、简洁性和科学风格上有所提升，同时保持了技术含义。这些发现支持了 LLM 自我精炼的动力系统视角，并为基于编辑幅度饱和的实际停止标准提供了动机。
博主点评： 该研究深入探讨了大型语言模型在自我修订过程中的行为，揭示了模型在递归精炼过程中趋向于稳定文本形式的动态特征。这一发现不仅为理解 LLM 的工作机制提供了新视角，也为实际应用中设定改进标准提供了理论依据。