每次向托管的大语言模型发送的提示都会被运行方读取。本文探讨是否可以让提示仅保留在客户端，而让服务器只收到经过变换的向量。语言模型的文本→向量映射只需一次，使用公开的查表，我们在本地完成该步骤，然后将向量送入一个小型训练网络（55.6M 参数）再离开边界。服务器运行冻结的 27B 参数模型 Qwen3.8-27B，输入的是变换后的向量，永不接触原始文本或 token id。我们把变换器视为在固定的冻结模型上进行对抗训练，损失由前向 KL 效用项和一个辅助项组成，后者强制每个向量偏离原始方向。实验在 1,490 条未见的 MMLU 题目上进行，变换后模型的准确率从 82.3% 降至 80.7%，下降 1.5 分；其中 1,226 道模型原本答对的题目有 68 道被破坏（5.5%）。此外，约 30.1% 的内容 token 在最近邻查表时不再映射回原始 token。
点评