一种基于概率导向方法的能源高效近似计算框架，用于加速深度神经网络（DNN）的运行

《IEEE Transactions on Emerging Topics in Computing》：Energy Efficient Approximate Computing Framework for DNN Acceleration Using a Probabilistic-Oriented Method

本文提出基于概率的近似计算框架PAxC，通过最小似然误差确定应用与电路协同的近似轮廓，在深神经网络中实现83.66%的功耗延迟积降低，同时保持可接受精度损失，验证了其有效性。

　　

摘要：

近似计算（AxC）最近作为一种成功的方法出现，用于优化容错应用（如深度神经网络（DNN））中的能耗。DNN的巨大模型规模和高计算成本给其在能效高且资源受限的计算系统中的部署带来了重大挑战。基于AxC设计的新兴DNN硬件加速器选择性地近似计算中的非关键部分以应对这些挑战。然而，目前仍缺乏一种系统化且基于原则的方法，该方法能够结合领域知识和近似硬件来实现最佳近似效果。在本文中，我们提出了一个以概率为导向的AxC（PAxC）框架，通过考虑近似的整体概率效应，实现了高能耗节省和可接受的性能质量。为了实现更高效的近似设计，我们利用最小似然误差来确定应用层和电路层上的AxC协同配置。这使得在能耗和准确性之间进行有效协调成为可能。与基线设计相比，功率-延迟积（PDP）降低了高达83.66%，同时准确性损失也在可接受范围内。通过对图像处理的仿真和案例研究验证了所提出框架的有效性。

引言

尽管深度神经网络（DNN）已成为一种强大的预测模型，在许多机器学习任务中甚至达到了人类水平的准确性，但其卓越的性能是以硬件复杂性和计算资源为代价的。人们越来越有兴趣在边缘设备（如智能传感器、无人机和机器人）上部署DNN，这些设备的能源和资源预算非常紧张。因此，能效问题对于各种计算平台上的DNN来说变得尤为紧迫和重要。近似计算（AxC）在研究和工业界引起了广泛关注，被视为解决能耗挑战的一种有前景的方法。许多应用本质上具有容错性，在这些应用中，获得完全精确的结果并不必要，反而会导致计算资源的过度消耗[1]、[2]。因此，在这些可以接受不精确结果的应用中，AxC作为一种比传统计算架构更优的方案应运而生，适用于节能目的。