代理平台开始自行改进代理：读取已部署代理的执行轨迹，推导出修改，使用自动验证器批准并在无人参与下发布。我们关注在多少程度上可以安全地无人运行此循环。提出两个可测量的量：验证器强度 $\\sigma$ 表示可用验证器（通常是 LLM 判官）与可信参考验证器的一致程度，它限制一步能提升代理的幅度；可恢复性衡量坏修改被撤销的成本，包括是否需要新的验证器批准以及回滚能恢复多少旧行为。只有当两者均足够时，步骤才可无人执行。我们在平台上实现该规则，使得提示、工具和技能编辑可以无人运行，而权重更新仍需人工签署。主要贡献是这两个定义及其测量方法。我们构建了一个遵循该规则的平台，并在两方面进行测试：平台自身的批准门以及在 $\\tau^2$ 基准上的受控实验。验证器强度方面，平台的 LLM 判官在 37 种设置中有 9 种无论输入如何都给出相同分数且报告无错误，说明验证器看似健康却会批准任何内容；通过两个简单测试即可捕获此类失效。可恢复性方面，恢复保存的副本能将代理恢复到原始行为，而重新生成的撤销则不能；在一次部署期间，改变导致 17% 任务结果超出正常运行波动，且没有撤销能够修复。综合表明：只有在保留旧版本且已测量验证器强度的情况下，修改才能无人执行。
点评