后训练量化（PTQ）在计算和数据受限的情况下压缩已训练模型的权重。 在4位量化时几乎无损，但在2位标量 PTQ 配置下准确率跌至随机水平。我们关注三个通常被视为实现细节的因素：量化表示、校准数据以及恢复微调数据，并在六个密集和混合专家模型（参数规模 $3.8$–$32$B）上进行实验。
量化表示的影响最大，使用向量码本可以在标量 PTQ 完全失效时恢复可用模型。其余精度损失主要出现在生成任务上，且下降幅度随模型而异。 在恢复预算有限的情况下，校准数据与恢复数据相互耦合；最佳恢复数据取决于所选校准数据，二者必须联合决定。
基于上述发现，我们提出的配方包括：向量码本表示、一个小规模且与任务对齐的校准混合数据，以及仅使用码本的低成本恢复阶段。整体上约使用 $2.3$ 有效位/权重，能够保留 $89\%$–$97\%$ 的全精度问答（QA）准确率，而标量 PTQ 在同等条件下几乎失效。相较于最强的量化感知训练（QAT）基线，整体计算量降低 $1.4$–$30\times$。
点评：该工作展示了在极端低位宽（2 位）下，通过数据驱动的表示选择和联合校准‑恢复策略，仍能实现可接受的性能，提供了比传统 QAT 更高效的实用路径。