工具化 AI 代理通过调用外部工具获取数据并执行操作。随着代理系统的横向扩展，调用次数激增，迫切需要能够在低延迟或本地环境下进行的每一次调用监督。传统的授权机制只能判断代理是否被允许调用某个工具，却无法评估其背后的认知过程，即该工具选择是否是实现任务意图的合乎逻辑、相关的步骤。因此，即使调用被授权，也可能偏离任务意图：恶意代理可能自行偏离或诱导其他代理组合出与任务目标不符的调用序列。为此，需要对每一次调用进行验证。本文探讨了小型语言模型（SLM）在此场景中的可行性：SLM 充当任务‑工具相关性分类器，独立评估每个选定工具与分配任务的匹配程度，并输出相关性信号供后续强制执行使用。我们构建了一个包含多工具任务的全新数据集，这些任务所需工具分布在不同的模型上下文协议（MCP）服务器上。随后通过提示优化、监督微调以及基于 GRPO 的强化学习对 SLM 进行优化和专化。
点评