在持续生成与修订技能的过程中,发现与优化这些技能的机制本身也可以被视为可学习的对象。任务技能直接作用于任务执行,而元技能则决定代理如何发现并改进未来的技能,其价值体现在随后产生的搜索过程上。现有方法仅依据观察到的原始技能搜索轨迹和分支结果来提升元技能,但分支表现同时受初始发现状态和产生该搜索过程的元技能修订影响,导致难以明确某次修订究竟改变了什么,且更新往往倾向于利用有利状态而非真正改进过程。为此我们提出 HMED(后视元经验蒸馏),它会回溯产生修订的完整事件,并在相同的恢复发现状态下重新执行原始和修订后的元技能,从而在共享条件下观察修订带来的变化。每一次比较都会被蒸馏为一条元经验记录,供后续更新重复使用,即使最终未被保留的修订也能提供学习信号。我们在三个交互式代理基准以及开源和闭源模型上进行实验,HMED 始终超越强基线,提高了技能发现的效果,并将元技能学习的焦点从分支结果转向对改进过程本身的后果。
点评