AI芯片:华为昇腾(ASCEND)310结构分析

时间:2024-04-11 14:22:55

华为的麒麟SOC中使用的是寒武纪的AI芯片模块。
但是,华为自己也推出了自有的AI芯片架构。
本文根据华为公布的信息,简单分析下其结构。

所有信息都来自互联网,来自华为的官方信息。
感谢华为的分享!!

整体采用华为自研的达芬奇架构,采用高性能的3D Cube计算引擎。

因为兴趣及工作领域的因素,我更关注其芯片内部的AI 卷积核的设计。

从海报中能够看出,AI core 采用的是二维平面阵列结构,应该是类似谷歌TPU的脉动阵列结构。
从海报中可知,单个AI Core每周期可完成4096次MAC运算,那么4096=64X64,所以猜测MAC阵列的尺寸是64X64的。
支持8T半精度浮点计算和16T整型int8计算。
从公布的算力来看:
8T= 4K(4096 MAC) X 2(双核) X 1G(频率1GHz)
整体架构类似谷歌的TPU2,都是双核的。
当然,如果华为认为一次MAC运算包含的一个乘法,一个加法,如果各算一次,就是两次。
那么,算力的计算就是下面这种了:
8T= 2(一次MAC=一次乘法+一个加法) X 4K(4096 MAC) X 1(单核) X 1G(频率1GHz)

还支持多核堆叠。这个容易。因为AI计算属于计算密集型,与CPU相比,对控制的要求不高,控制简单。所以,可以多搞几个核,同时利用相同的输入数据进行计算,线性提升计算速度。

目前能知道的也就这么多了。
很好奇提到的3D Cube计算引擎到底指的什么?
是说的软件算法的计算引擎,还是指的硬件逻辑的计算架构?

另外:
昨天,美国宣布要对华为实行实体清单,断供来自美国芯片,大华为面临巨大考验,希望能够挺住!

看看,华为发布的一张海报,如下图所示。
AI芯片:华为昇腾(ASCEND)310结构分析