在宽随机初始化的全连接网络中，边缘混沌（edge‑of‑chaos）条件能够保持输入的一阶微扰不随深度衰减。然而，物理感知的损失、得分匹配以及导数正则化等方法依赖于更高阶的输入导数。针对光滑的标量输入全连接网络，利用在无限宽极限下每一层固定深度处有限导数喷流的联合高斯性，我们推导出截至三阶的均场递推式，这些递推在方差不动点处是精确的，且有限深度的修正以几何速率衰减。
在临界点，一阶导数方差 $\mathrm{Var}[\partial_x f]$ 随深度保持不变；而二阶导数方差 $\mathrm{Var}[\partial_x^2 f]$ 在激活函数具有非零曲率时呈线性增长： $$\mathrm{Var}[\partial_x^2 f_{\ell}] \sim \ell \cdot \kappa^2,$$ 其中 $\kappa$ 表示激活函数的二阶导数的均值。三阶系统在均场易感度（susceptibility）上闭合，形成可求解的闭式递推。
对于分支尺度为 $L^{-1/2}$ 的残差网络，我们在明确的正则性假设下证明：任意固定的有限导数阶的方差在所有深度上都有统一的上界，即 $$\sup_{\ell}\,\mathrm{Var}[\partial_x^k f_{\ell}] < \infty,\quad k\in\mathbb{N}.$$ 数值实验验证了上述临界增长律、残差网络的有界性以及闭式递推的正确性。需要强调的是，这些结论仅涉及网络的初始化行为，并不直接说明训练后网络的性能。
点评