Preferred Networks疯了!使用面积为3000mm2,功率为500W的芯片定制PCIe卡

原创内容,转载请注明:  [http://www.ssdfans.com]  谢谢!

挑战硬件的物理极限总是一件有趣的事,Preferred Networks公司正在做的事着实震惊了很多人。Preferred Networks公司是从东京大学(Tokyo University)衍生出来的,它正在将几个大芯片植入一张PCIe卡中,以实现峰值性能和峰值功率。他们已经准备将超过10,000张芯片部署到一台定制的超级计算机中。

让我们从7225平方毫米的包装开始。这是典型的BGA封装,带有其他6457个引脚。封装内有四个基于TSMC 12FFC的硅芯片,每个硅芯片面积为756.7 mm2(32.2 mm x 23.5 mm),这意味着该处理器总计有3026.8 mm2的硅。这与高端计算GPU中使用的800 mm2的硅以及高端EPYC CPU中使用的1000 mm2以上的硅相差甚远。这实在是一个令人难以置信的数字,特别是对于要插入PCIe卡的产品而言。

与相关的散热片一起,芯片位于32GiB某种形式的存储器所包围的PCB上。整个设备是一个深度学习加速器,旨在为性能和功率提供关键指标。在半精度(FP16)的524万亿次浮点运算性能下,该芯片还有一个500W的TDP,这意味着该芯片的目标达到了每瓦1.05 TFLOPs。在0.55 V时,这意味着芯片在负载时拉近1000安培,因此需要自定义PCB设计,但仍可通过PCIe启用。该卡是扩展的PCIe设计,具有强制冷却功能(即使在服务器中也是如此),并将安装在7U机架式机箱中。每个服务器都是一个双插槽CPU,最多可包含四个卡,从而提供2个半精度DL计算的PetaFLOP。通过卡上的散热,现在每张卡在服务器内部的最大功率为600W。

该芯片是MN-Core系列的一部分。Preferred Networks是一家专门制造有特定需求的私有超级计算机的公司。自2014年成立以来,该公司已投入1.3亿美元资金,其中近9700万美元来自丰田。从2017年起,Preferred Networks公司已经为东京大学建造了三台人工智能超级计算机,大部分使用P100和V100 NVIDIA加速器,最新的MN-2使用了1024个V100 SXM2部件,达到了128 PetaFLOPs。这款新芯片位于Preferred Networks最新的MN-3超级计算机的中心,将是第一个采用定制芯片的。

MN-3将在每台7U服务器上配置4个这样的芯片,使性能提高到2.1 PF。每个机架将有4台服务器,大约300个机架,4800个网核板。这将提供2.5 ExaFLOPs的总半精度峰值性能。Wikichip的David Schor估计总耗电量约为3.36兆瓦,比市场上其他系统的效率要高得多。MN-3预计将于2020年投入使用。

戴维(David)还对这种芯片的结构做了一些挖掘。从图片中,我们可以在芯片上清楚地看到单词’ GRAPE-PFN2 ‘,它代表GRAPE(东京大学内部硅项目的名称)和PFN2(或首选网络)。东京大学在GRAPE旗下有许多定制的芯片项目:可以用于重力计算,多物体计算和分子动力学等。Preferred Networks团队的成员以前曾在GRAPE-DR物理协处理器上工作,包括Hiraki教授,这就是为什么超级计算中显示的架构图如此相似的原因。

每个芯片都包含两个管芯到管芯的互连,并与一些调度引擎,PCIe架构配合使用,,计算在四个大的“二级块(L2Bs)”中进行。每个L2B有8个L1B和一个共享缓存,L1B内部有16个矩阵运算块(abs)和一个L1共享缓存。每个MAB有四个处理引擎(PEs)和一个矩阵运算单元(MAU),它似乎是为执行矩阵乘法和加法而构建的。一个裸片总共将具有512个MAB,其中包括2048个PE和512个MAU。因此,整个芯片将具有2048个MAB,8192个PE和2048个MAU。不断扩大规模,显然可以实现高性能数字。通常,所有这些单元都以16位工作,尽管结合PE意味着可以实现更高的精度。

Preferred Networks没有计划出售这些芯片或服务器。他们心中有一个特定的客户,并且很可能通过与该合作伙伴的深度集成来构建软件堆栈。但是,每个芯片3000的硅面积为3000 mm2吗?每个芯片500W?疯了!!!

原文链接:https://www.anandtech.com/show/15177/preferred-networks-a-500-w-custom-pcie-card-using-3000-mm2-silicon

分类目录 国外动态, 行业动态.
扫一扫二维码或者微信搜索公众号ssdfans关注(添加朋友->点最下面的公众号->搜索ssdfans),可以经常看到SSD技术和产业的文章(SSD Fans只推送干货)。
ssdfans微信群介绍
技术讨论群 覆盖2000多位中国和世界华人圈SSD以及存储技术精英
固件、软件、测试群 固件、软件和测试技术讨论
异构计算群 讨论人工智能和GPU、FPGA、CPU异构计算
ASIC-FPGA群 芯片和FPGA硬件技术讨论群
闪存器件群 NAND、3D XPoint等固态存储介质技术讨论
企业级 企业级SSD、企业级存储
销售群 全国SSD供应商都在这里,砍砍价,会比某东便宜20%
工作求职群 存储行业换工作,发招聘,要关注各大公司招聘信息,赶快来
高管群 各大SSD相关存储公司高管和创始人、投资人

想加入这些群,请微信扫描下面二维码,或搜索nanoarchplus,加阿呆为微信好友,介绍你的昵称-单位-职务,注明群名,拉你进群。SSD业界需要什么帮助,也可以找阿呆聊。