在合作式多智能体强化学习(MARL)中,传统做法是假设所有智能体同时参与训练。然而在许多实际任务里,部分智能体会提前行动并留下对后续智能体有价值的信息。我们将这种情形定义为跨时序参与(Staggered Participation, SP),其核心特征是早期行为通过提供信息影响后期策略的回报,从而形成跨时间、跨智能体的学习依赖。要在 SP 环境下学习,需要同时解决两个子问题:识别哪些信息对未来决策有用,以及让后续智能体学会有效利用这些信息。
为此我们提出 Staggered Participation Learning (SPL)。在训练阶段,SPL 对早期智能体加入前瞻性获取监督(prospective acquisition supervision),引导它们主动产生对后续任务有帮助的信号;对后期智能体则采用结果监督的接收者学习(outcome‑supervised receiver learning),使其能够根据观察到的信号优化策略。SPL 以数据增强的方式嵌入现有基于策略的 MARL 框架,无需修改底层算法。
我们在多种 MARL 主干(包括常用的 MPE 与 RWARE 环境)以及不同的跨时序参与模式下进行评估。共计 60 组基线对比实验表明,SPL 在所有设置中均提升了任务完成率,平均提升 14.1%。进一步的实验扩展到八智能体团队以及 Isaac Lab 中的物理 UAV‑UGV 场景,仍保持显著优势,验证了方法在算法、时间和具身环境层面的普适性。
点评