在嵌入式、资源受限的平台上,复杂算法(如深度神经网络)的应用日益普及。然而,现有的硬件与软件方案在安全关键应用(如医疗设备)中表现不足。
首先,GPU、NPU和TPU等硬件主要设计用于吞吐量,而非计算的正确性,因此容易受到故障注入攻击。其次,现有的软件方案(如量化方案)往往是静态且可靠的(但功耗非最优),或者动态但不可靠(不适合安全关键应用)。
为了解决这两方面的问题,我们提出了一种全新的实时动态可靠量化方法及其支持硬件。首先,我们开发了一种可靠的实时自适应精度量化方法,采用从左到右的算术运算,优先传递最重要的位(MSB),并在执行敏感性分析的同时在线动态调整精度,以量化和管理决策边界穿越的风险。
接下来,我们提出了一种利用脉动阵列的创新硬件方案,执行从左到右的算术运算,以优先生成MSB。这一方案不仅为资源高效的神经网络与人工智能在边缘计算中提供了支持,也为高精度数学运算提供了可靠且资源高效的硬件解决方案,确保对最关键位的位翻转攻击的韧性。目前,软件实现已完成,硬件正在开发中。
博主点评: 本文针对嵌入式系统中的安全与性能挑战,提出了创新的动态量化与硬件架构,展现了在资源受限环境中实现高精度计算的潜力,尤其在医疗等安全关键应用中具有重要意义。