在这项研究中，我们系统地比较了Turbo-Quant和SpectralQuant的KV缓存压缩，评估了包括使用Beta Lloyd-Max和QJL的WHT旋转在内的非支配方案，采用统计验证方法，区分了系统编码器差异与实现方差。
关键发现表明，尽管基于特征基的方法在重尾数据上由于协方差不稳定而表现不佳，但在结构化环境中却表现卓越，且有效语义维度（$d_{\text{eff}}$）适应于校准预算，而非真实数据秩。
博主点评： 本文通过严谨的统计验证方法，深入探讨了KV缓存压缩的不同技术，揭示了在不同数据分布下算法的优劣，具有重要的理论和实际意义。尤其是对有效语义维度的分析，为进一步的优化提供了方向。