双模拟度量为强化学习中的状态相似性提供了任务相关的理论定义,但传统构造主要局限于折扣 MDP,依赖收缩性保证唯一固定点并推导下游性能界限。本文把视角从算子转向博弈:将已有的度量算子解释为零和交替博弈的 Bellman‑Shapley 算子,并把度量本身定义为对应的游戏价值函数,从而在 $\gamma=1$(即无折扣)时仍能得到唯一定义。
基于该博弈论框架,动态规划的收敛性、策略迭代等理论与算法可以直接迁移到总奖励和平均奖励问题。进一步,作者分析了度量的有限性如何依赖于底层 MDP 的结构,提出在弱可通 MDP 中仍保持有界的有向度量。
文章还构建了一个抽象的游戏动作空间修改框架,允许使用更一般的转移耦合集合。该框架能够复现多数已有的双模拟度量,并指引出新的度量设计。
在理论层面,证明了这些度量上界了总奖励的误差,并在最优增益与状态无关的情况下,上界了最优相对价值的差异。最后,给出基于状态聚合的规划在总奖励和平均奖励设置下的误差与次优性保证。
点评:本文通过把双模拟度量嵌入零和博弈,成功突破了折扣因子的限制,为无折扣强化学习提供了统一且可操作的度量工具,理论与算法的兼容性值得关注。