部署大语言模型到生产环境时,常需要把输出限制为 JSON、XML 等结构化格式。此前的研究把由此产生的准确率下降称为“结构税”。我们重新审视这一观点,针对多种模型、数据集和模式(schema)进行评估,测量任务准确率、置信度校准以及隐藏状态几何特性。
实验表明,结构税并非来源于结构本身,而取决于 schema 设计。先推理后给答案的字段顺序(reasoning‑first)能够保持甚至超越自由文本的准确率;而先答案后推理的顺序(answer‑first)会导致显著下降,尤其在小模型上更为明显。格式敏感性与任务自身的结构约束呈逆相关;保留推理顺序的 schema 还能提升校准效果,CKA 分析显示中层 Transformer 表征在正确与错误样本之间的可分性更强。
因此,合理设计的结构化格式完全可以匹配或超越自由文本的表现。关键不再是“是否结构化”,而是“如何结构化”以最大化推理保留。
点评:本文通过系统实验揭示了结构化输出的真正瓶颈在于 schema 排列,而非格式本身,为实际部署提供了可操作的设计指南。