我们将对齐视为一族可测量的尺度关系。对每个风险类别 $r$,保持固定安全目标所需的对齐负担记为 $B_r(N)=a_r N^{\alpha_r}$,其中 $N$ 为能力代理。若预算与 $N$ 成正比,则当 $\alpha_r<1$ 时规模效应有利。我们给出负担的三种操作化:观察到的、审计后的和真实的对齐,并区分它们的含义。一个玩具模型假设纠正会消耗能力余量,使上述关系更直观。我们证明:
- 在所有已纠正风险中,最大指数决定长期行为;
- 若 $\alpha>1$,任何保持余量高于底线的政策必须以超指数方式增长;
- 对于正混合幂律的负担,小模型的拟合会低估大规模指数;
- 若审计能够发现隐藏失效且不产生误报,则永远不会低估真实对齐。 基于此我们提出可预注册的实验协议,并两次进行简化实现。首次对公开的 Pythia 分类器对抗训练数据进行预注册再分析,发现将攻击成功率压至 10% 以下所需的计算量随 $N^{0.60}$ 增长。随后在 Qwen2.5 系列(0.5B‑72B)上进行预注册试点,得到以下指数:真实性 $-0.05$、声明倾向 $0.48$(两者均在其简化规则下受规模帮助,局部斜率在最高规模接近 1),顺从性 $0.89$(加入两组 72B 种子后为 $0.83$),而植入后门的指数无法确定:已知触发器时后门被快速移除,但在盲安全训练中在五个规模中有四个仍存活。我们在 www.aisafety.fun 上发布了四款演示这些尺度律的浏览器游戏。本文不对当前前沿模型所属的尺度 regime 作出断言。
点评