忆阻加速器(Memristive accelerators, MA)通过在忆阻器交叉阵列中进行原位计算,实现了高效的矩阵向量乘法(Matrix-vector multiplication, MVM),已被广泛用于构建神经网络、科学计算等领域的专用加速器。然而,当前MA面临的重大挑战在于电压降(IR drop)影响导致的计算精度受限。现有IR drop缓解或补偿方案理论支撑不足或采取了近似处理,导致补偿结果准确度较差。
实验室博士生刘锦鹏,在吴兵博士后、童薇教授、魏学亮博士后、冯丹教授的指导下,针对以上问题,提出一种用于构建可靠忆阻加速器的电压降鲁棒映射(IR drop-robust mapping,IRM)方法,将IR drop的影响在映射过程中直接消除。IRM方法的核心思想是将IR drop影响下的等效矩阵与原始矩阵间的残差矩阵迭代映射至阵列,并将残差矩阵的计算结果累加到原始矩阵的计算结果,从而消除IR drop的影响。其次,本工作提出调节-移动-翻转(Calibrate-Shift-Reflect,CSR)策略,将残差矩阵中数值较大的元素映射到阵列中IR drop影响较小的地方,快速减小矩阵残差,进而显著减少了IRM方法映射残差所需的阵列数量。第三,本工作设计了IRM-CSR方法的硬件架构,以支持IRM方法下MVM计算以及CSR策略。

图1 IRM方案伪代码

图2 CSR策略示意图
实验结果表明,相比现有最先进方法,IRM-CSR方法能有效缓解IR drop影响,将推理精度恢复80%(神经网络应用),并使相对均方根误差降低103×∼1010×(科学计算)。
表1 IRM-CSR方案补偿结果

该研究成果以“An IR drop-robust Mapping Method for Reliable Memristive Accelerators”为题,已被《Design, Automation & Test in Europe Conference》(电子设计自动化EDA领域顶会,CCF B类国际会议)接收。