在离线强化学习中,基于扩散的轨迹规划器表现出色,但其迭代去噪过程往往导致高推理成本。虽然一致性规划器减少了采样步骤,但通常依赖的两阶段教师-学生蒸馏管道增加了训练成本,并可能引入不稳定性。我们提出了捷径轨迹规划(STP),这是一种离线基于模型的强化学习框架,利用捷径模型作为高效的轨迹生成器。STP在单阶段内训练一个条件捷径轨迹模型,支持通过步长条件调整的一步和少步推理,并使用增强的批评者选择候选计划,结合可行性意识的修正。在标准D4RL基准测试中,包括运动、导航、操控和灵巧控制任务,STP在简化训练管道的同时,取得了强劲的表现,推动了快速生成规划的发展。
博主点评:捷径轨迹规划(STP)通过简化训练过程和提高推理效率,为离线强化学习提供了新的解决方案,特别是在复杂任务中展现出色性能。这种方法的创新性在于它有效地平衡了模型复杂度和计算效率,值得关注。