现代AI系统越来越多地被评估其推理、编码、证明定理、使用工具以及进行长远研究任务的能力。这些强大的能力共享一个结构性限制：模型操作的表征框架通常是固定的，包括其概念词汇、可搜索解决方案的空间和成功评估的标准，这些都是提前提供的。
本文认为，构建更强大的智能系统以实现开放式创新需要额外的操作类别：创建、稳定和重用新的表征原语，这些原语改变被搜索的空间，而不仅仅是在其中进行搜索。
我们通过两个差距来表征当前AI系统与真正开放式智能之间的距离。第一个是词汇差距，即发明和稳定新的表征原语的难度，而不仅仅是重新组合现有的。第二个是验证差距，即评判新原语价值的难度，因为其全部收益可能仅在未来重用后才会显现。
我们通过一个统一的智能框架来解读这两个差距，将智能行为视为一系列认知转化，区分在固定表征框架内操作的内部空间转化与可能修改框架本身的生成性转化。
在此基础上，我们提出了创新自主性的阶梯，并概述了几条推进开放式AI的方向，包括奖励有用表征变化的目标、用于发明原语的持久记忆架构以及能够随着其评估的表征演变的自适应验证机制。
博主点评： 这篇论文深入探讨了AI系统在开放式创新方面的局限性，特别是如何通过引入新的表征原语来推动智能的发展。对词汇和验证差距的分析为未来AI的研究提供了重要的视角，强调了动态适应性和创新能力的重要性。