随着大型语言模型（LLMs）在日常操作中的应用，白箱监控作为审计工具的采用越来越普遍。然而，白箱监控系统能够被规避，其规避机制尚未得到系统化的表征，也未提出原则性的防御策略。本研究旨在解决这两个挑战。
受控的红队实验揭示了两种主要的规避策略：几何位移，即信息在线性与非线性表示子空间之间的系统迁移，以及协方差操控。这些机制解释了单一检测器方法的失败，因为信息迁移至个别检测器无法访问的子空间。
这一问题尤为紧迫，因为越来越多的证据表明模型变得意识到评估，使得那些目标不一致的个体能够利用这些漏洞，在部署期间规避监控。为此，提出了SafetyNet，作为一种原则性集成，其双重目的在于：进一步实证验证我们的机制发现是实际且可操作的，并为未来在稳健潜在空间监控方面的工作提供具体起点。
研究在五个模型家族上进行了实验，使用MAD和Anthropic Sleeper Agent基准，SafetyNet取得了接近100%的AUROC分数，超越了Beatrix和CROW。代码可在此获取：GitHub。
博主点评： 本文通过严谨的实验设计揭示了白箱监控的潜在漏洞，并提出了有效的防御策略。SafetyNet的引入为未来的监控研究提供了新的视角，展现了潜在空间监控的强大能力，值得深入探索与应用。