随着人工智能和机器学习应用的兴起,研究者对于深度学习和训练的计算量需求也日渐提升。为满足这种密集的运算需求,通常需要相当大规模的服务器集群。在今年早些时候的 Hot Chips 大会上,我们已经见到过来自英特尔的 Nervana NNP-T Spring Crest 芯片。通过收购 Nervana,英特尔获得了打造“大型训练芯片”所需的 IP 。

1.jpg

(题图 via AnandTech

据悉,该芯片基于台积电 16nm 工艺制造,辅以 CoWoS 和四层 HBM2 内存,面积达到了 680 平方毫米。本周早些时候,Supermicro 已经在超算大会上展示了最新的 Nervana NNP-T 服务器。

2.jpg

这些硬件均基于 PCIe 扩展卡,可想象它们此前被设计为可容纳 GPU 的传统服务器。其采用了典型 2P 布局,可在 4U 机箱中插入 8 张扩展卡,且计算卡之间可以互相通信。

3.jpg

每颗芯片具有 3.58 Tbps 的总双向带宽,而片外连接则支持多达 1024 个节点的可伸缩性。从每张 PCIe 卡片的 8-pin 辅助供电来看,其峰值功率应该在标准的 225W 。

4.jpg

本周晚些时候,Supermicro 告知其已获准展示该系列服务器的 8 路 OAM(OCP 加速器??椋┌姹?。其能够通过底板的 PCB 保持芯片间的通信,而不是传统的 PCIe 卡对卡之类的桥接器。

5.jpg

这使得扩展卡之间能够流通大量的空气来散热,并且兼容??榛?OCP 标准。作为英特尔首款支持 bfloat16 深度学习训练的芯片,每个芯片最多支持 119 个 TOP 。

6.jpg

另有 60MB 片上存储器和 24 个专用的“张量”处理器集群,后者具有双 32×32 矩阵乘法阵列。该芯片共有 270 亿个晶体管,内核频率 1.1 GHz、辅以 32GB HBM2-2400 内存。

7.jpg

从技术上来讲,PCIe 连接可以升级到 Gen 4.0 x16,但英特尔商务 CPU 支持这项特性。有人表示,为展开此类计算,一些客户正在将头结点从 2P 升级到 4P(Facebook 更是用上了 8P)。

Supermicro 声明称,其 NNP-T 系统已做好助推深度学习和训练的部署准备。

访问购买页面:

英特尔旗舰店

活动入口:

阿里云上线企业应用中心 一站式解决企业刚需

京喜首个年货节开启 “超级百亿补贴”红包在此领取

责任编辑:raymon725

对文章打分

Supermicro展示英特尔Nervana NNP-T服务器 支持8路PCIe与OAM

2 (25%)
已有 条意见

    最新资讯

    加载中...

    今日最热

    加载中...

    新品速递

    热门评论

      相关文章

      Top 10

      招聘


      Advertisment ad adsense googles cpro.baidu.com
      created by ceallan