摘要
文本到SQL的技术在大型语言模型的推动下迅速发展,但复杂的数据库查询仍然需要超越单次生成的推理,包括多步骤分解、基于执行的诊断和有针对性的修正。我们提出了EvoSQL,一种将SQL合成形式化为生成器与评论者之间迭代交互的协同进化框架。EvoSQL维护一个上下文化的候选记忆,通过执行信号和基于LLM的评论验证SQL候选,并通过效用引导的聚合更新其记忆。
为了增强生成器-评论者对的能力,我们进一步引入了一种自我蒸馏策略优化(SDPO)微调阶段,将执行感知的监督注入现代编码LLM骨干网络。实验结果显示,EvoSQL在Spider和BIRD数据集上一致性地超越了Maj@16基准,尤其在BIRD-Dev上取得了显著提升,从Qwen3-4B的+1.37%到Qwen2.5-Coder-3B的+9.19%。SDPO初始化进一步提高了选定骨干在Spider-Test和BIRD-Dev上的表现。这些结果表明,以记忆为基础的协同进化是实现更可靠和更具泛化能力的文本到SQL系统的有效途径。
代码可在GitHub上获取。
博主点评: EvoSQL通过记忆增强的生成器与评论者协同进化,显著提升了文本到SQL的生成能力。其创新的自我蒸馏策略优化方法为模型注入了执行感知的监督,进一步推动了该领域的研究进展,值得关注。