可靠的本地搜索对大型语言模型(LLM)代理至关重要,它们需要在特定时间和地点为用户找到满足需求的地点。现有基准往往忽视搜索结果是否满足强制性要求、是否考虑用户偏好,以及是否基于地点属性和评论进行事实和体验判断。
我们推出 ATLAS-Bench,收集了 1,200 条来自三个地区的真实搜索事件,并结合平台的地点属性、评论和用户画像进行扩展。每条查询明确区分强制性需求与偏好、客观事实与主观判断,并提供检验每项要求的证据和标准。查询通过迭代断言检查和跨模型审阅完成验证。
此外,我们提供 ATLASBox——一个统一的评估环境,内置搜索工具和固定的兴趣点(POI)知识库。给定查询、时间戳和位置,代理需检索属性和评论,给出有证据支持的推荐,或报告不存在满足全部强制性要求的地点。评估维度包括答案质量、轨迹质量和执行成本。
在 14 种配置的 11 种模型中,GPT-6-Luna 在返回推荐的约束满足率最高(71.5%),事实准确率也达 95.6%。但在可满足查询的推荐覆盖率上,GLM-5.3 更优(85.3% 对比 67.3%),说明在满足单项约束的同时提供可用推荐仍具挑战。
点评