最精准的任务执行代理通常依赖大型云端模型，这些模型通过读取用户的私有数据来完成任务。虽然可以使用足够小、能够在边缘设备上运行的模型来保持数据本地化，但其性能往往大幅下降。另一种思路是让云端模型生成一段程序，由设备直接执行；这样数据仍然保留在本地，但因为程序在看到实际数据之前就已经写好，一旦运行时需要解释仅在运行时出现的内容，就会失效。
本文提出一种折中架构：云端模型先生成程序框架，遇到需要依据用户数据做出判断的步骤时，通过普通函数调用将问题转交给本地小模型（SLM）处理。该机制在 AppWorld 基准上进行评估，覆盖六种主干模型与测试划分的组合。实验表明，使用本地模型进行有界查询能够将仅代码驱动的代理成功率提升最多 14.9 个百分点，显著缩小与全云端 ReAct 循环之间的性能差距，同时确保用户数据始终留在设备上。
该方法的核心优势在于：
- 保持数据本地化，降低隐私风险；
- 通过本地模型的即时推理弥补云端预生成程序的盲点；
- 在不显著增加计算开销的前提下提升整体成功率。
实验结果表明，局部模型作为解释器的设计能够在实际应用场景中实现性能与隐私的双重平衡。 点评