动物的学习与决策常被视为贝叶斯过程:感官证据与先验信念相结合,以在不确定环境中指导行为。关键在于神经和突触的噪声动力学如何实现这种推理。本文提出一种以噪声神经元和突触为基础的框架,系统通过对内部能量函数的随机采样来完成推断和学习。神经活动的变异捕获潜在状态的不确定性,突触权重的波动则对应模型参数的后验分布。
在该框架下,预测编码网络可以通过马尔可夫链蒙特卡罗(MCMC)采样自然地表达认识不确定性(epistemic uncertainty)。这种抽样过程与生物系统的内在噪声相似,也与新兴的概率模拟存储技术中的电气噪声相对应。
模拟存储器件的模拟内存计算(analog in‑memory computing)能够在硬件层面直接执行大规模、低功耗的概率推断:噪声本身即是采样源,省去额外的随机数生成电路。因而,概率模拟内存硬件被视为实现大规模贝叶斯推理的自然解决方案。
点评