审计大语言模型（LLM）训练的结果十分困难，因为模型权重和训练数据往往是私有的。直接对 Transformer 规模的完整训练过程进行密码学证明的成本几乎不可接受。为此我们提出 zkLLMPoT，一个零知识框架，它通过前向评估而非优化轨迹的验证来证明训练好的检查点满足审计者定义的属性。
zkLLMPoT 包含两个阶段。第一阶段，训练者固定模型架构并对模型权重进行提交；随后审计者挑选挑战序列，确保训练者在审计期间不能针对审计数据修改检查点。第二阶段，训练者在这些挑战序列上证明已提交模型达到的目标函数值。该设计使得认证成本与训练迭代次数无关，同时不泄露模型权重，也无需访问私有训练数据。
技术实现上，我们基于 sumcheck 与 lookup 论证构造，对 Transformer 的关键算子（如注意力、前馈层）进行可验证计算，并支持下一词损失以及任务特定的审计目标。实验在四类模型上进行，算子层面的基准显示：参数量为 1.1‑1.5 B 的模型证明时间为 41‑59 秒，13 B 参数模型为 131 秒；在序列长度 512 时，验证时间均低于 0.5 秒。
点评：zkLLMPoT 通过将证明目标从完整训练过程转向前向推理，大幅降低了零知识审计的成本，为保护模型隐私的同时提供了可验证的训练质量保证。