NeFut Logo NeFut
EN 管理员登录

[AI学术] ATLAS-Bench:本地区域搜索的智能工具使用基准

发布于:2026-11-01 22:00 最后更新:2026-11-02 00:48
#AI #LLM #GPT

可靠的本地搜索对大型语言模型(LLM)代理至关重要,它们需要在特定时间和地点为用户找到满足需求的地点。现有基准往往忽视搜索结果是否满足强制性要求、是否考虑用户偏好,以及是否基于地点属性和评论进行事实和体验判断。

我们推出 ATLAS-Bench,收集了 1,200 条来自三个地区的真实搜索事件,并结合平台的地点属性、评论和用户画像进行扩展。每条查询明确区分强制性需求与偏好、客观事实与主观判断,并提供检验每项要求的证据和标准。查询通过迭代断言检查和跨模型审阅完成验证。

此外,我们提供 ATLASBox——一个统一的评估环境,内置搜索工具和固定的兴趣点(POI)知识库。给定查询、时间戳和位置,代理需检索属性和评论,给出有证据支持的推荐,或报告不存在满足全部强制性要求的地点。评估维度包括答案质量、轨迹质量和执行成本。

在 14 种配置的 11 种模型中,GPT-6-Luna 在返回推荐的约束满足率最高(71.5%),事实准确率也达 95.6%。但在可满足查询的推荐覆盖率上,GLM-5.3 更优(85.3% 对比 67.3%),说明在满足单项约束的同时提供可用推荐仍具挑战。

点评

原文链接: https://arxiv.org/abs/2610.39438

[h] 返回首页