在AI模型不断发展的背景下，确保其输出符合我们的意图变得至关重要。近期的研究主要集中在通过辩论进行验证，这是一种交互证明模型，其中两个竞争的强大证明者（或AI模型）互相辩论，以说服一个较弱的验证者（或人类）相信其主张的正确性。然而，辩论假设两个AI模型能力相当且其中一个是诚实的，这在现实中可能并不成立。
在本研究中，我们展示了如何避免辩论：我们开始研究针对AI安全的单证明者交互证明。以往的单证明者交互证明结果并不直接适用于AI安全场景。例如，当计算能访问一个预言机（如人类判断或外部数据库）时，这些结果并不适用。
我们提出了双重高效的单证明者交互证明和针对预言机辅助计算的论证（也称为相对证明），在以下两种情况下有效：(1) 计算是稳健的，即如果最多一小部分预言机查询的答案不正确，输出不发生变化；(2) 预言机是低阶多项式。这些结果表明，即使在没有辩论的情况下，在结构化或抗噪声的预言机访问下，交互验证也是可能的。
博主点评： 本文为AI安全领域提供了新思路，通过单证明者模型避免了传统辩论的局限，展现了交互证明在实际应用中的潜力，尤其是在面对不对称能力的AI模型时，极具启发性。它为未来的AI验证体系奠定了基础，值得关注。