Veritas 是一个自动生成验证器的框架,旨在提升自我改进系统的可靠性。它在通用代理框架的基础上加入了三项机制:① 证据头部,声明验证器将观察到的内容;② 领域规则库,补全任务中未显式给出的约束;③ 编写原则,通过自我改进循环进行部分优化。我们在六个基准上进行评估,其中四个基准通过执行得分,先对官方验证器进行认证;另外两个基准比较成对响应。实验结果显示,在四个执行得分基准上,Veritas 生成的验证器与官方判决的吻合度高于七个对比框架的验证器;在两个人工对比基准上表现接近最佳。对比供应商自有框架,Veritas 在三类模型中有两类表现更佳。其机制在三种框架的十二个执行得分基准中提升了 9 处匹配。
点评