自我改进的具身代理正被用于机器人仿真基准,并通过代码生成完成指令任务。近期工作常把基准的成功标准直接暴露给学习代理,这一做法称为标准曝光(CE)。这些标准最初用于验证模仿学习得到的策略,往往比语言指令更严格,导致验证分数未必能真实反映任务是否完成,尤其是当代理自行编写机器人控制程序时。\n\n我们设计了受控实验,对比在有无 CE 情况下的自我改进代理。结果显示,暴露标准的代理能够快速生成在该标准下成功率更高的代码,但当对标准进行轻微修改(仍保持与原指令一致)时,这种优势立即消失。更重要的是,基于 CE 学到的技能在不同任务之间的迁移效果很差。\n\n为了解决上述问题,我们提出了“指令忠实的标准”,即仅检验代码是否满足指令本身的要求,而不加入额外的约束。实验表明,这类标准能够更准确地衡量代理生成程序的真实表现。\n\n点评:标准曝光虽能短期提升基准分数,却容易导致代理过拟合验证器,削弱跨任务通用能力。采用指令忠实的标准是提升真实任务完成度的关键方向。