NeFut Logo NeFut
EN 管理员登录

[AI学术] VPFlow:基于价值预测的离线目标达成规划

发布于:2026-10-23 22:00 最后更新:2026-10-25 13:04
#algorithm #Machine Learning #optimization

离线目标条件强化学习旨在通过任意状态到任意目标的迁移学习获得通用技能,且不依赖密集奖励。模型基方法通过在测试时进行规划,能够处理更复杂的任务。将两者结合可以在次优示例上进行预训练,并通过目标指定和规划实现零样本适应。然而,现有方法普遍认为有效规划需要在像素或潜在空间中精确预测下一状态。我们发现,价值预测对规划更为关键,而精确的状态预测往往并非必要。

核心洞见在于,离线目标达成天然拥有闭式 Monte Carlo 回报,可直接用于价值回归,取代传统的时序差分引导。我们仅使用该回报对潜在世界模型进行监督:想象的潜在向量被训练去预测达成目标的价值,而不是匹配未来状态,这一机制自然防止了表示塌陷。基于价值场的等值面,模型能够在数据集转移之外进行想象。

基于此,我们提出 VPFlow——一种价值预测规划器。它将上述世界模型与单步 flow 策略结合,并在噪声空间通过进化搜索进行规划。该方案利用想象的广义优势进行策略改进,显著降低了在动作空间规划时常见的分布外查询。

在 30 个状态和像素级 OGBench 数据集上,VPFlow 的成功率分别比模型自由基线提升至少 30.3% 和 10.1%,并超越了潜在规划器 LeWorldModel、PLDM 与 TD‑MPC2。值得注意的是,尽管潜在预测误差比状态预测大数倍,但进一步降低该误差会导致成功率下降,说明离线规划真正依赖的是价值预测而非精确状态预测。

点评:VPFlow 通过价值驱动的潜在表示突破了传统对精确状态预测的依赖,为离线目标达成提供了更鲁棒且高效的规划框架。

原文链接: https://arxiv.org/abs/2610.27280

[h] 返回首页