自动化代理设计越来越依赖单一分数来判断改动是否提升,但当分数被激进优化时,它不再衡量原本的目标。若代理还能给出设计解释,解释本身提供第二信号:对每条声明取反、重新运行、观察性能是否下降。我们探讨在代理针对验证器进行优化时,该验证器是否仍可靠。我们的贡献不是新验证器,而是一套压力测试方法:定义压力比 $\rho$ 表征验证器对代理搜索的引导程度,并设计四个可证伪探针,分别对应四种失效模式——无信号、力度不足、通过减少声明规避、在代理提交前被查询。我们将该测试应用于我们自行设计的“推理一致性得分”(RCS) 验证器,嵌入一个能够设计机器学习流水线的 LLM 代理,使用单一生成模型、六个任务、三组随机种子。首先,在之前的配置中验证器对搜索目标的影响极小 ($\rho \ll 1$),部分原因是准确性门控,使其鲁棒性未被充分检验;然而它仍通过最终选择的平局破局影响报告的产出,而 $\rho$ 并未捕捉到这点。其次,能力控制实验表明,当指示代理缩短声明列表时,代理确实减少了声明数量,但搜索过程并未随之改变,即使 $\rho$ 提升至原先的百倍以上;由于反馈中不包含声明数量且搜索视野短,这一负结果更多是结构性限制而非鲁棒性证明。再次,当代理能够在提交前探测验证器时,它会保留通过验证的声明,而持出式忠实度下降——这一下降在循环内指标中不可见,且部分受 RCS 对小型流水线打分偏低的影响。我们将这些发现视为初步证据,并提出报告标准:在信任验证器之前,用 $\rho$ 与上述探针审计其行为。
点评