随着大语言模型的兴起，具备代理能力的系统能够自行编写代码、调用工具、修改提示并提出对自身组件的改进。这种自主性引出了安全自我改进的核心问题：自动化的门控机制（如奖励模型或自动审稿人）能否可靠地判断提议的更新是否应被接受？
关键难点在于结构性不匹配：门控必须是终止且可计算的过程，而我们关心的属性——更新是否真正提升语义得分——可能依赖于无限的程序行为，因而不可计算。我们将代理建模为程序，并以可能不可计算的语义得分定义改进。我们考察两种评估抽象：第一种是对更新进行批准或拒绝的认证器；第二种是给定提议生成器的搜索过程，尝试在存在改进时输出一个改进候选。
我们证明，在完全一般的设置下，没有任何终止过程能够同时保证可靠性（永不接受非改进）和非保守性（永不遗漏可用改进）：自指构造可以迫使任何此类门或搜索器失效。即使是带有有界错误的随机化门也面临同样的极限。随后我们识别出实践中常用的可判定子域——评估有界且提议预算有限——在此范围内，穷举模拟能够得到满足上述保证的终止搜索过程。
我们进一步展示该恢复的极限：一系列被接受的更新可以在每轮提升有界得分，却导致真实得分下降。我们的结果划定了在无界、通用设置下正确性保证崩溃的边界，以及在有界设置下通过设计可以恢复保证的可能性。点评