随着前沿大语言模型（LLM）能力提升，运行成本也随之上升。与此同时，小语言模型（SLM）在保持成本稳定的同时，逐步获得更多能力，能够以 5‑40 倍更低的推理费用处理代理拆分的狭窄、重复子任务。然而，如何快速、经济地让小模型输出正确行为仍是瓶颈。零样本小模型在多数狭义生产任务上表现不佳，而每次行为变化后重新训练又过于缓慢，难以迭代。
我们提出先在前沿模型上通过提示工程获得期望行为，并利用实时流量进行即时反馈；行为收敛后，将记录的真实生产行为（而非合成模仿）通过监督微调（SFT）蒸馏到 SLM。该方法在家庭护理机构的排班代理上得到验证：使用 GPT‑5.4‑nano 生成每个护理员‑班次对的安全是/否决策，随后对 Qwen3‑8B 进行 LoRA 微调，使用 11.6k 条记录的生产决策进行训练。学生模型在与教师模型的记录提示上达成 0.913 的一致率，而教师模型自行复现时仅有 72.7% 的自洽率，说明 SLM 甚至更具一致性。两者分歧时，盲测的专业排班员以 48‑29 的比分倾向学生模型。进一步测得 SLM 的中位延迟约为教师模型的 2.5 倍低，成本仅为其一小部分。
我们认为，快速构建‑实时反馈‑低成本推理的生命周期为类似系统提供了可复制的蓝图。
点评：该工作展示了通过前沿模型快速迭代提示、再蒸馏到小模型的高效路径，兼顾了行为一致性、响应时延和经济性，为实际部署提供了实用参考。