后训练量化可以降低语言模型代理的部署成本，但其对临时工具故障恢复的影响取决于评估方式。我们比较了 Llama-3.1-8B-Instruct 与 Qwen2.5-7B-Instruct 的 8 位和 4 位版本，在二十个确定性工具使用任务上使用五种提示进行测试。
实验中，两种模型在相同提示下的恢复差异呈现不同方向。Llama 在同一提示下的差值介于 0 到 +20.2 百分点，Qwen 的差值则在 -50.0 到 +35.0 百分点之间。全流程点估计显示，所有提示下 8 位 Llama 均优于 4 位，而 Qwen 的比较结果随提示而变。
评估目标同样会翻转结论。以 Llama 为例，仅在各自干净通过的任务上评分时，4 位优势为 17.5 分；在相同任务上评分则无差异；在全流程评分时，8 位优势为 28.3 分。
执行器宽容度是第三个影响因素。对相同日志使用严格输出解析时，8 位 Llama 违规次数远高于 4 位，使得原本的 +28.3 分转为 -15.0 分，而 Qwen 基本保持不变。
这些结果表明，单一提示、单一筛选任务集或单一评分策略不足以得出关于量化后代理鲁棒性的稳定结论。评估应在匹配任务上比较变体，报告全流程成功率以指导部署，明确评分策略，并在跨任务层面量化不确定性。
点评