摘要
作为关于认知功能的首原则建模系列的一部分，本文尝试提供思维和感知的数学表述。正式推导出慢思维或更一般的主动感知，涵盖了慢思维大语言模型的设计、训练与推理。
我们的出发点是对可观察和潜在空间上概率分布的提升与投影，目标是通过简单的函数族（如神经网络）来表示复杂的数据分布。提出了一种称为“主动提升”的理论，基于潜在序列的采样和内在驱动，旨在以最大速率减少不确定性。它推导出一个包含慢思维模型的设计空间，称为静态理论的子空间。这些模型在静态理论所诱导的表示层次和采样层次上定位，并可以通过攀登这两个层次进行升级。
主动提升进一步推导出具有内部时间轴的推理过程，以及一种训练目标，类似于最短长度编码和语言的发明。因此，它描述了感知的代理性，包括慢思维格式的出现。该理论的技术副产品包括改善慢思维模型的三阶段路径、构建所有数据模态的编码器和生成模型的统一方法、人类视觉表征的先验形成，以及可能解决策略崩溃的方案。
博主点评： 该理论为理解人类认知提供了新的视角，通过数学模型化慢思维与主动感知，揭示了深层次的内在机制，具有重要的应用潜力，尤其是在构建更智能的AI系统方面。它的多层次设计和训练方法可以极大地推动大语言模型的进步。