在LLM(大规模语言模型)中,串行验证门是核心的可靠性原语:只有当 $k$ 个验证器均接受时,候选答案才会被返回。在条件独立的门下,最近提出的Odds Law显示后验对数赔率随 $k$ 线性增长,因此失败率呈指数衰减。尽管如此,“部分相关验证器级联的紧密理论仍然开放”。本文提供了这样的最小理论。
首先,将生成器自身错误的每个实例的假接受率建模为一个潜变量 $\alpha \sim G$(de Finetti),则精确的级联后验为 $\ell_k = \ell_0 - \ln m_k$,其中 $m_k$ 是 $G$ 的第 $k$ 个矩。接下来,提出以下几点:
- 对于每个非退化的 $G$,$\ell_k$ 在 $k$ 上是凹的——Odds Law 是其在第一个门的切线,并且是一个上界;
- 对于Beta$(a,b)$的潜变量,失败率以多项式衰减,$1-r_k \asymp k^{-b}$,相关参数为 $\rho_v = 1/(a+b+1)$;
- 在 $\alpha=1$ 的盲点原子质量为 $1-\pi$,限制了从任意数量的门中提取的证据上限为 $-\ln(1-\pi)$ nats,因此可靠性在1以下饱和;
- 让真实接受率也变化($\beta \sim H$)会产生三分法——门最终要么总是有帮助,要么达到平台,或者主动有害——这一点由 $G$ 和 $H$ 的上尾指数决定,交叉点为 $k^\dagger$。
这一机制为生存者偏差:存活过门的错误为高 $\alpha$ 的错误。该理论是可测量的:每个实例的 $R$ 次重复裁决识别 $G$ 的前 $R$ 个矩,因此两个裁决可以识别 $\rho_v$;beta-binomial 似然和 NPMLE 方法可以恢复可靠性曲线和不适定的上限。
在合成测试中,基于独立性的外推在 $k=5$ 时低估失败20倍,在 $k=10$ 时低估约3000倍;在 $R=8$ 时,相关拟合准确跟踪了保留深度。实际的杠杆在于去相关——改变模型家族、模态或证据源,而非单纯增加门的数量。
博主点评: 该研究深入探讨了LLM中的验证器级联问题,提出了部分相关性的理论框架,为理解和优化模型的可靠性提供了新的视角。通过对潜变量的建模,研究揭示了误差传播的复杂性,强调了去相关策略的重要性,值得关注和进一步研究。