分布式 Transformer 推理在同址边缘设备上受限于通信，序列并行划分需要在设备间交换激活，成为延迟主因。现有压缩方案虽降低带宽，但仍需在接收端执行键/值投影，导致计算串行化。
Trace 在每层 Transformer 的注意力残差后加入向量量化器 (VQ)，并预先计算基于码本索引的键/值表示。推理时，激活被编码为紧凑的码本索引，接收方通过查表直接恢复键和值，无需再执行下游投影计算。此举消除接收数据的后续计算，实现通信与计算重叠，突破关键延迟瓶颈。进一步通过层次聚类将码本组织为多分辨率层级，支持在运行时调节比特率，无需重新训练。
框架提供两种模式：一种侧重精度，另一种在精度与效率之间平衡，采用缓冲区兼容量化。实验在 ViT‑Base（ImageNet‑1K、CIFAR‑100）和 ViViT‑B（UCF‑101）上验证，Trace 相比最先进的 VQ 分布式推理框架可提升最高 1.89% 精度，提升至 1.27 倍端到端速度；相较未压缩的序列并行推理，通信开销最高降低 22 624 倍。点评