NeFut Logo NeFut
EN 管理员登录

[AI学术] CompLit:科学文献检索基准需覆盖隐式、累积和未满足需求

发布于:2026-10-24 22:00 最后更新:2026-10-25 13:04
#AI #Machine Learning #LLM

我们在进行文献检索时,往往先描述自己想要的内容,而这些需求可能只在论文中隐含出现;随着阅读的深入,需求会逐步累积;还有可能我们寻找的主题在现有文献中根本不存在。为此,作者提出了 CompLit 基准,覆盖 arXiv 的全部八个学科领域,并为每种需求设计了对应的诊断任务。\ \ 在标准查询下,最强的两种模型——Codex(GPT-5.6‑Sol)和 Claude Code(Opus 4.8)——分别能够正确回答 86% 与 87% 的问题。但当需求是隐式时,它们的准确率跌至 66%‑68%;在需求累积的情形下,分别再下降 6 个和 15 个百分点;面对没有对应论文的未满足查询时,模型最多会放弃 53% 的问题。\ \ 不同学科领域的表现并不一致,且所有模型在检索 2019 年前或 2023 年后的论文时准确率均有所下降。对模型的检索路径进行追踪发现,它们常常能够定位到正确或最接近的论文,却往往对结果的适用性判断失误。\ \ 在 CompLit 上取得好成绩意味着我们离能够信赖的文献检索代理更近一步——它们不仅能找到所需论文,还能在不存在合适论文时明确告知用户。\ \ 点评

原文链接: https://arxiv.org/abs/2610.28658

[h] 返回首页