研究人员开发了最先进的设备，使人工智能更节能

　　

明尼苏达大学双城分校的工程研究人员展示了一种最先进的硬件设备，可以将人工智能(AI)计算应用的能耗降低至少1000倍。

这项研究发表在《npj非常规计算》杂志上，这是一本由《自然》杂志出版的同行评议的科学杂志。研究人员在该设备中使用的技术拥有多项专利。

随着人工智能应用需求的不断增长，研究人员一直在寻找创造更节能工艺的方法，同时保持高性能和低成本。通常，机器或人工智能过程在逻辑(系统内处理信息的地方)和内存(存储数据的地方)之间传输数据，消耗大量的电力和能量。

明尼苏达大学科学与工程学院的一组研究人员展示了一种数据永远不会离开存储器的新模型，称为计算随机存取存储器(CRAM)。

“这项工作是CRAM的第一次实验演示，其中数据可以完全在存储器阵列内处理，而不需要离开计算机存储信息的网格，”明尼苏达大学电子与计算机工程系博士后研究员、论文的第一作者Yang Lv说。

国际能源署(IEA)在2024年3月发布了一份全球能源使用预测，预测人工智能的能源消耗可能会从2022年的460太瓦时(TWh)增加到2026年的1000太瓦时。这大约相当于整个日本的用电量。

根据这篇新论文的作者，基于cram的机器学习推理加速器估计可以实现1000倍的改进。另一个例子显示，与传统方法相比，节能2500倍至1700倍。

这项研究已经进行了20多年，

“20年前，我们将存储单元直接用于计算的最初概念被认为是疯狂的，”该论文的资深作者、明尼苏达大学电子与计算机工程系杰出麦克奈特教授Jian-Ping Wang说。

“自2003年以来，随着不断发展的学生群体和明尼苏达大学建立的真正的跨学科教师团队-从物理学，材料科学与工程，计算机科学与工程，到建模和基准测试，以及硬件创造-我们能够获得积极的成果，现在已经证明这种技术是可行的，并且已经准备好纳入技术，”Jian-Ping Wang说。

这项研究是建立在Jian-Ping Wang和他的合作者对磁隧道结(MTJs)设备开创性的专利研究基础上的持续和长期努力的一部分，这是一种纳米结构的设备，用于改进硬盘驱动器，传感器和其他微电子系统，包括磁随机存取存储器(MRAM)，它已用于嵌入式系统，如微控制器和智能手表。

CRAM架构使真正的计算能够在内存中进行，并打破了计算和内存之间的墙，这是传统冯·诺依曼架构的瓶颈，这是一种存储程序计算机的理论设计，几乎是所有现代计算机的基础。

“作为一种非常节能的基于内存的数字计算基板，CRAM非常灵活，可以在内存阵列的任何位置执行计算。因此，我们可以重新配置CRAM，以最好地满足各种人工智能算法的性能需求，”计算架构专家、论文合著者、明尼苏达大学电子与计算机工程系副教授Ulya Karpuzcu说。“它比当今人工智能系统的传统构建模块更节能。”

Karpuzcu解释说，CRAM直接在存储单元内执行计算，有效地利用了阵列结构，从而消除了对缓慢且能源密集型数据传输的需求。

最有效的短期随机存取存储器(RAM)设备使用4到5个晶体管来编码1或0，但一个MTJ，一个自旋电子设备，可以用一小部分能量执行相同的功能，速度更快，并且对恶劣环境具有弹性。自旋电子器件利用电子的自旋而不是电荷来存储数据，为传统的基于晶体管的芯片提供了一种更有效的替代方案。

目前，该团队正计划与包括明尼苏达州在内的半导体行业领导者合作，提供大规模演示并生产硬件，以推进人工智能功能。