量化常用于降低神经网络推理的计算和内存开销，但在循环网络中，量化后的状态会在下一个时间步返回，存储规则会影响后续计算。我们将这种规则称为“循环状态写回”。
在本文中，我们在一个用于荧光寿命成像的紧凑 GRU 编码‑解码器上进行实验。该成像任务需要从高噪声的时域荧光信号中估计短寿命分量 $\tau_1$ 和长寿命分量 $\tau_2$。
固定已训练模型，仅将连续状态传播替换为确定性的 4 位状态存储后，$\tau_1$ 的估计误差约增大 70 倍，$\tau_2$ 增大约 300 倍。错误来源是许多细小的更新未能超过写入阈值，导致存储状态几乎不变，而网络仍在产生变化。
引入误差反馈、残差记忆和方向记忆可以把这些被抑制的更新信息跨时间传递，从而在不重新训练的情况下恢复精度。
通过精度扫描发现，提升状态精度反而可能使固定的循环解更差；而在训练时匹配状态接口则可以学习到兼容性。
为验证该现象是否普遍，我们在独立训练的 LSTM 上重复相同的后训练干预。粗糙的写回同样导致失败，误差反馈恢复精度，且针对状态的干预显示细胞状态对写回更敏感，而隐藏状态相对稳健。
综上，循环状态写回是低精度循环动态的关键因素，状态存储接口应成为量化循环推理的核心设计考量。点评