在实际部署中，LLM 系统正从单模型调用转向异构部署，即根据需求动态选择不同规模的模型进行推理。若相同上下文需在多个模型间复用，传统做法是每次都重新处理上下文，导致计算开销巨大。为此我们提出 ACCT（Asymmetric Cross-LLM Context Transfer），实现同一家族不同规模模型之间的 KV 缓存转移。ACCT 将源模型生成的 KV 缓存转换为稀疏 KV 状态，目标模型可直接使用这些稀疏 KV 而无需再次预填上下文，从而实现上下文计算与下游推理的解耦。ACCT 包含三个轻量组件：Cartographer 为每层每个 KV 头识别与查询相关的上下文 token；Allocator 在共享的 KV 预算下决定每层每头保留多少 token；Compiler 将选中的源 KV 转换为稀疏的目标 KV。实验在五个通用能力基准和六个高度依赖上下文的任务上评估 ACCT，结果显示即使 KV 缓存缩减 75%，ACCT 仍能匹配或超越目标模型的原始推理性能。在约 19K token 的上下文长度下，KV 转换相较于目标模型的预填速度提升 6.5‑21.2 倍，验证了在受限 KV 预算下跨模型转移上下文计算的可行性。
点评：ACCT 通过稀疏化 KV 缓存实现了显著的计算节省和推理加速，为异构 LLM 部署提供了实用的上下文共享方案。