单步逆合成是一种一对多的逆问题,但多数模型仅在单一记录的反应物集合上进行训练和评估。基于参考的训练缺乏对未记录替代方案的正向信号,精确匹配评估会在化学上合理的预测不匹配时直接否定。我们提出 RetroRLFF(Retrosynthesis via Reinforcement Learning from Forward Feedback),通过参考一致性和前向一致性共同优化反应物生成。模型从一个监督训练的仅解码器 Transformer 出发,生成完整的反应物序列,并使用冻结的前向反应模型预测生成的产物。序列级奖励将参考匹配、前向一致性相结合,同时惩罚无效输出。采用基于优势的直接策略优化(Advantage-Based Policy Optimization),无需人工偏好标注或偏好训练的奖励模型即可更新策略。实验在 USPTO-50K 数据集上进行,RetroRLFF 在 k=1、3、5、10 的候选层回路准确率上超越全部 14 种基线。模型约 5000 万参数,Top‑1 回路准确率达 90.1%,比最强基线 R‑SMILES 高出 8.5%。相较于其监督策略,回路准确率从 83.1% 提升至 90.1%,而精确匹配准确率保持在 57.9%(对比 57.5%)。在对 131 条随机测试案例的匿名专家评估中,合成专家在 67.9% 的比较中更倾向 RetroRLFF 而非 EditRetro。这些结果表明前向反馈可作为提升前向一致性的训练信号,同时保持最高的参考恢复率。专家评估提供了合成可行性的补充证据,但前向一致性和专家偏好均不能直接证明实验可行性。
点评