数字代理已经能够自行收集、组织信息,进行推理,并使用工具完成复杂任务。预测任务对这些能力提出了综合考验:需要在证据不完整的情况下整合信息,推断因果驱动因素,并给出校准的概率判断。现有基准要么只能在事件结束后提供反馈,导致评估周期受日历限制;要么使用固定语料库,迫使研究局限于预先收集的文档。为此我们推出 FABench,一个可扩展的预测代理回测环境。其自动化流水线能够在任意过去的预测日期发现事件、生成问题并解析结果,从而使基准能够随模型训练截止时间不断更新;首个版本包含 287 条跨九个领域的问题。代理在一个离线归档与实时网页搜索相结合的环境中自由检索,搜索结果经过时间泄漏过滤。我们在八个最新模型上构建代理进行评估,发现检索在所有模型的每一种检索设置下均提升了 Brier 分数,并将表现最好的代理提升至 Polymarket 上 54 条问题的市场共识水平,前三名略高于该水平。研究追踪显示,代理在权衡和应用证据时仍存在系统性失误,提升空间仍然巨大。我们公开了代码、数据和归档环境,期待社区在预测代理方向展开进一步研究。\n\n点评