本文讨论了 Top-k 混合专家（MoE）路由中的量化损害问题。由于 MoE 路由的不连续性，部署中的数值干扰（如 4 位 KV 缓存量化）会导致 token 越过决策边界，触发专家翻转。作者提出了一种因果工具、实证发现和检测限结果。实验结果表明，大约三分之一的损害是路由介导的（RMF ~ 0.31）。路由器边缘可以检测翻转（AUC 0.772），但无法区分有害翻转和有益翻转。实验证实了有符号翻转税和符号不可分离性，且清洁参考补偿的收益受到架构调节。总之，本文探讨了 MoE 路由中的量化损害问题，提出了检测和分析方法，但也指出修复损害的难点。 博主点评： 本文为我们揭示了 MoE 路由中的量化损害问题，提出的因果工具和实证发现为我们理解这一问题提供了新的视角。然而，修复损害的难点仍然存在，需要进一步的研究和发展。