大型语言模型(LLM)在科研层面的题目求解上展现出日益增长的潜力,但系统化的题库仍然缺乏,且在科研级别的问题上进行评估也十分困难。为此我们推出 OpenFrontiers——一个跨学科资源,既包含结构化的开放研究问题语料,又提供近期已解决数学问题的回顾性基准。语料库记录了 12,151 条问题的陈述、背景、进展等信息。基准由 200 条问题组成,其中 110 条在 2026 年已得到解决,90 条仍保持开放;每条问题均配有 Lean 4 形式化陈述,经过自动探针验证并由两位独立评审审阅。HQ‑50 子集进一步依据质量评分等标准筛选出高质量样本。评估协议在封闭书本、冻结检索和实时网络三种条件下,使用两位独立检查器在隔离沙箱中对形式化证明进行评分。我们在统一预算下对七种 LLM 代理在 HQ‑50 子集上进行实验,发现封闭书本下的再发现极为罕见,最多仅 7/40 条已解决问题;实时网络条件下的成功主要是检索到已有出版解答。通过将大规模研究问题语料与具备正式评分的评测子集相连接,OpenFrontiers 为衡量科研级再发现以及研究当前未解科学问题的进展提供了基础平台。数据集与基准可在 https://huggingface.co/collections/FlippyDora/openfrontiers 获取。
点评