大型语言模型(LLM)能够解决许多窄域任务,但对数百万相关实例逐一查询的成本往往难以承受。本文提出“瓶装”概念,即将通用能力转化为针对特定任务的可复用方案,以在答案质量和摊销成本之间取得平衡。
BOTTLED 基准让代理一次性接收完整的未标注工作负载,并在固定的时间、计算和 LLM API 预算内完成。代理可以自行决定实现方式,例如训练一个小模型或编写可重复使用的程序代码。
在十种模型和三项任务的实验中,强零样本表现并不必然转化为强瓶装能力。零样本得分相近的模型在瓶装后差异显著,60 次瓶装运行中有 48 次的得分低于其模型零样本表现 95% 置信区间的下界,且 31 次的表现不及在相同 token 预算下的两种小模型蒸馏基线。
尽管如此,瓶装仍能带来显著成本节省。例如,在查询‑产品相关性分类任务上,Opus 5 保留约 82% 的零样本 macro‑F1,成本约降低 657 倍。与专为廉价、重复推理设计的系统一模型 Jev 相比,Opus 5 在同任务上恢复约 94% 的 macro‑F1,成本仅为 Jev 预测全工作负载成本的四分之一。
BOTTLED 为评估和提升代理在有限资源下投资可复用解决方案的能力提供了统一基准。
点评