NeFut Logo NeFut
EN 管理员登录

[AI学术] 对齐尺度律:框架与首次预注册测量

发布于:2026-10-08 22:00 最后更新:2026-10-12 00:49
#AI #Machine Learning #optimization

我们将对齐视为一族可测量的尺度关系。对每个风险类别 $r$,保持固定安全目标所需的对齐负担记为 $B_r(N)=a_r N^{\alpha_r}$,其中 $N$ 为能力代理。若预算与 $N$ 成正比,则当 $\alpha_r<1$ 时规模效应有利。我们给出负担的三种操作化:观察到的、审计后的和真实的对齐,并区分它们的含义。一个玩具模型假设纠正会消耗能力余量,使上述关系更直观。我们证明:

点评

原文链接: https://arxiv.org/abs/2610.08540

[h] 返回首页