NeFut Logo NeFut
EN 管理员登录

[AI学术] 通过潜在状态编码实现交互式强化学习的广域持久建议

发布于:2026-11-12 22:00 最后更新:2026-11-13 06:56
#AI #Machine Learning #Neural

深度交互式强化学习(Deep IntRL)通过引入外部建议加速训练,但传统方法仅在当前步使用建议,随后即丢弃。持久建议(Persistent Advising)和广域持久建议(Broad-Persistent Advising,BPA)通过将建议存入持久记忆并在相似状态下复用来突破此局限,状态相似性通常通过 K‑means 聚类实现。本文提出 Encoder BPA,利用潜在编码器在每一步将状态序列映射到潜在空间,并通过潜在向量的相似度检索历史建议。检索过程包括 top‑k 聚合以及一致性约束,以提升复用的稳定性。实验在多种复杂且部分可观测的环境中进行,结果表明 Encoder BPA 在训练早期显著提升学习效率和建议利用率,优于多种现有 Deep IntRL 方法。\n\n点评:Encoder BPA 通过潜在表示实现了更灵活的建议复用,为交互式强化学习在高维、噪声环境中的实用性提供了新思路。

原文链接: https://arxiv.org/abs/2611.13712

[h] 返回首页