您的位置:首页 >生活 >

首款基于碳纳米管的张量处理器或将实现节能的AI处理

导读 事实证明,人工智能(AI)和机器学习工具在处理需要分析数据并做出准确预测的各种任务方面非常有效。尽管这些工具具有诸多优势,但它们对计算...

事实证明,人工智能(AI)和机器学习工具在处理需要分析数据并做出准确预测的各种任务方面非常有效。尽管这些工具具有诸多优势,但它们对计算的需求很大,并且在现有处理单元上运行时会消耗大量能源。

北京大学和中国其他研究所的研究人员最近开发出一种基于碳纳米管的张量处理单元(TPU),该单元前景十分光明,可用于以更节能的方式运行AI算法。《自然电子学》杂志发表的一篇论文介绍了这种基于碳纳米管的张量处理,这可能是开发下一代道路上的一项关键突破。

“我们成功研发出全球首款基于碳纳米管的张量处理器(TPU),”论文共同作者张志勇告诉TechXplore。“我们受到了谷歌TPU和AI应用快速发展的启发。从ChatGPT到Sora,人工智能正在迎来一场新的革命,但传统的硅基半导体技术越来越无法满足海量数据的处理需求。面对这一全球挑战,我们找到了解决方案。”

在计算机科学中,收缩阵列是一种处理器网络,可以有节奏地计算数据并允许数据自由通过,类似于血液在人体中的流动方式。张和他的同事开发了一种新的高效收缩阵列架构,使用碳纳米管晶体管,场效应晶体管(FET),其通道由碳纳米管制成,而不是传统的半导体。基于他们开发的这种新架构,他们创造了迄今为止报道的世界上第一个基于碳纳米管的TPU。

“该由3,000个碳纳米管场效应晶体管组成,以3*3处理单元(PE)的形式组织起来,”张教授解释道。“这9个PE构成一个脉动阵列架构,可以并行执行两位整数卷积和矩阵乘法运算。”

张和他的同事提出的紧耦合架构支持收缩输入数据的流动。通过该架构的数据流动减少了静态随机存取存储器(SRAM)组件的读写操作,从而显著节省了能源。

“每个PE都从其上游邻居(上和左)接收数据,独立计算其内部的部分结果,并将其传递到下游(右和下),”张说。“每个PE都设计用于2位MAC和有符号和无符号整数的矩阵乘法。结合收缩数据流,CNTTPU可以加速NN应用中的卷积运算。”

该团队提出的系统架构经过精心设计,可加速人工神经网络执行的张量运算,轻松在整数卷积和矩阵乘法之间切换。他们基于此架构开发的张量处理可能成为基于低维电子学的新型高性能集成电路开发的重要里程碑。

“基于我们的碳基张量处理器,我们构建了一个五层的卷积神经网络,可以执行图像识别任务,准确率高达88%,功耗仅为295μW,这是所有新型卷积加速硬件技术中功耗最低的。”张教授说。

“系统模拟结果表明,采用180纳米技术节点的碳基晶体管频率可以达到850MHz,能效超过1TOPS/w,比同技术节点的其他器件技术具有明显优势。”

总体而言,研究人员进行的初步模拟和测试结果凸显了碳基TPU的潜力,表明它可能非常适合运行基于机器学习的计算模型。未来,他们的可以比现有的基于半导体的设备表现出更大的计算能力,并且更节能。

该研究团队的努力最终将有助于加速卷积神经网络的运行,同时降低其功耗。与此同时,张和他的同事计划进一步提高的性能、能效和可扩展性。

张补充道:“例如,可以通过使用排列整齐的半导体CNT作为通道材料、减小晶体管尺寸、增加PE的位数或实现CMOS逻辑等方式进一步提高这种方法的性能和能源效率。”

“CNTTPU还可能在硅晶圆厂的BEOL中制造,以实现三维集成:即底部是硅CPU,顶部是CNTTPU作为协处理器。此外,可以研究多层CNTFET的3D单片集成,以获得降低延迟和增加带宽的潜在优势。”

免责声明:本文由用户上传,如有侵权请联系删除!