摘要
内存计算 (IMC) 是一种通过在内存交叉阵列中直接计算模拟矩阵-向量乘法 (MVM) 来实现神经网络推理的范式,相较于传统冯·诺依曼架构,其在能效上具有潜在优势。本研究提出了一个用于 N 元交叉阵列架构的仿真框架,能够在最小实现假设下检索 MVM 结果。
我们成功地使用 (4x4) 4 状态磁隧道结 (MTJ) 的仿真交叉阵列推理了 XOR 和 MNIST 分类任务。MNIST 的准确率达到了 93.56%(相比于 97.56% 的软件基线)。主成分分析 (PCA) 降维显著降低了所需操作的数量,并改善了软件基线,仅以适度的准确率降低换取交叉阵列推理的效率。
我们识别了权重量化作为主要误差源,并研究了其影响与系统性非理想性和随机噪声的关系。我们发现,单元特定的随机噪声对误差的影响小于系统性错误,因为在整个阵列中可以通过平均化来减轻其影响。最后,我们演示了每个单元的最优状态数量,平衡了量化误差与电阻状态分辨率,以最小化总 MVM 误差。
博主点评: 本文在内存计算架构上进行深入探讨,尤其是多位量化对神经网络推理的影响,提供了重要的实验数据和理论支持,展现了未来在能效和准确性方面的潜力。PCA 降维的应用也为高效推理提供了新的思路。