我们描述了一个在初级视觉皮层(V1)中感知推理的模型,该模型等同于一个最小扩散模型,其功能可以通过参数直观理解。该模型基于稀疏编码,并对潜在变量施加非因式先验,形式为不受约束的成对交互矩阵,扩展了标准稀疏编码推理到一般递归动态系统。我们使用去噪得分匹配目标和隐式微分有效地训练这些递归动态。
在自然图像上训练后,学习到的交互矩阵反映了V1浅层中链接相似方向调谐神经元的水平连接结构。该模型展现出极好的去噪性能,能够在极端视觉模糊中恢复图像特征,如延伸的轮廓,几乎接近标准黑箱扩散架构在泛化阶段的表现。由于模型的简单性,网络的雅可比矩阵可以直接通过潜在变量之间的交互矩阵进行分解,揭示了递归动态如何在一系列自然结构变形中赋予高概率。
有趣的是,在这个电路中,大量潜在变量学习到完全与视觉输入断开连接,实际上形成了一种层次化表示,似乎在图像特征之间强制执行全局一致性。总的来说,这个模型及其结果在两个不同领域架起了桥梁:对于神经科学,它生成了关于感知推理任务中递归神经电路功能连接的具体可验证假设;对于机器学习,它阐明了扩散模型内部机制,使其能够从有限的训练集生成无数新图像。