深度交互式强化学习(Deep IntRL)通过引入外部建议加速训练,但传统方法仅在当前步使用建议,随后即丢弃。持久建议(Persistent Advising)和广域持久建议(Broad-Persistent Advising,BPA)通过将建议存入持久记忆并在相似状态下复用来突破此局限,状态相似性通常通过 K‑means 聚类实现。本文提出 Encoder BPA,利用潜在编码器在每一步将状态序列映射到潜在空间,并通过潜在向量的相似度检索历史建议。检索过程包括 top‑k 聚合以及一致性约束,以提升复用的稳定性。实验在多种复杂且部分可观测的环境中进行,结果表明 Encoder BPA 在训练早期显著提升学习效率和建议利用率,优于多种现有 Deep IntRL 方法。\n\n点评:Encoder BPA 通过潜在表示实现了更灵活的建议复用,为交互式强化学习在高维、噪声环境中的实用性提供了新思路。