AgentEval 是一个在工具执行、状态与事件捕获、报告定性以及案例维护全过程中携带合同约束评估记录的系统。它将代理实际执行的操作、证据能够证明的事实以及结论是否可用于当前使用三者严格分离,从而避免仅凭完成任务或单一哈希判断来误判义务履行情况。
在 32 种工具-世界组合的实验中,30 个完整回合全部得到独立检查一致的结果,能够清晰区分已满足、已违约和未决的义务;另外 2 个因中断而保留的回合也被记录。针对 48 种证据视图的受控干预揭示了 36 处仅哈希检查无法发现的绑定错误,而代理行为本身保持不变。
Scenario Studio 将已审查的案例关联到 12 组两轮对话报告,并对其中的 24 条答案进行独立核验。进一步的公开基准测试在 192 条未见执行中发现,尽管整体任务失败,但仍有 10 条子目标成功完成,并明确了缺失证据对评估的影响。
这些实验表明,可执行的评估记录能够让评估范围、证据支持以及报告复用在整个代理评估工作流中变得可检查、可追溯。
点评