信息存储系统教育部重点实验室

博士生刘锦鹏的论文被期刊TACO录用


基于新兴非易失存储器件(Emerging non-volatile memory, eNVM)的存内计算(Processing in memory, PIM)加速器,受到eNVM单元变化性、单元非线性I-V效应、电压降等耦合非理想因素影响,造成计算准确率大幅下降,严重阻碍了存内计算的实用化进程。传统采用计算单元(Operation unit,OU)为粒度的子阵列计算方式,虽能缓解单元变化性影响,但仍受到互连线寄生电阻(Parasitic wire resistance)带来的严重电压降(IR drop),以及单元非线性I-V(Nonlinear I-V,NIV)特性的耦合影响。并且,由于IR-NIV的相互依赖性,传统IR drop补偿方法、非线性I-V补偿方法亦或是两者的简单组合,都无法准确补偿结果。

实验室博士生刘锦鹏,在吴兵博士后、童薇教授、魏学亮博士后、冯丹教授的指导下,针对以上问题,提出了ICON-NIV方法,用于缓解eNVM加速器中IR drop与非线性I-V效应的耦合影响。本工作首先构建了OU级IR drop简化模型,通过忽略影响较小的OU内部互连线电阻,并将复杂的单元非线性I-V模型简化为保持足够精度的最优线性插值模型。基于上述简化,本工作推导出考虑IR-NIV耦合效应影响下,对OU计算输出结果进行补偿的数学表达式。该补偿表达式利用OU列输出结果,结合OU级IR drop简化模型,计算出实际施加在单元上电压值。同时,借助单元I-V简化模型,通过实际单元电压计算出非线性I-V影响下的实际单元电导。获取实际电压与电导后,ICON-NIV可精确补偿输出结果。该补偿表达式仅以OU的输入数据模式为参数,与应用特征无关,因此适用于各类应用场景。基于补偿表达式,本工作构建相应的补偿电路,并进一步将补偿电路多级流水化以提升吞吐量。

图1 简化IR drop/非线性I-V模型设计图

图2 ICON-NIV整体架构图

测试结果表明,在eNVM交叉阵列中以OU粒度进行计算时,ICON-NIV可缓解IR-NIV的影响,使神经网络和朴素贝叶斯模型的推理精度恢复3.03%~71.90%,科学计算中均方误差降低达1014倍。补偿电路各阶段延迟仅为7.21纳秒,与原始OU的计算延迟匹配。

表1 ICON-NIV补偿结果

该研究成果以“ICON-NIV: A Generalized Method for Mitigating the Impacts of IR Drop and Nonlinear I-V Effect in eNVM-based Accelerators”为题,已在《ACM Transactions on Architecture and Code Optimization》(CCF A类国际期刊)上发表。

注:本文为原创,如转载请注明出处。

分享文章

Share

最新发布

Latest
Baidu
map