導入Nvidia HGX-2平臺，超微提供10U、16GPU伺服器

繪圖處理器大廠Nvidia於2018年3月舉行的GTC大會上，發布了體型更大、搭配多達16個SXM3形式GPU的AI軟體整合應用設備，稱為DGX-2，接著在5月底召開的GTC臺灣大會期間，該公司推出了伺服器平臺HGX-2，而稍早推出的DGX-2，正是基於HGX-2設計而成的第一套產品。

那時，Supermicro也發出新聞稿，表示他們將推出相關產品，至於機型名稱，則是等到2018年9月的GTC日本大會才正式公布，稱為9029GP-TNVRT。

Supermicro率先推出搭配HGX-2平臺的伺服器機型

基本上，Supermicro這款伺服器和Nvidia DGX-2一樣，都是10U尺寸、搭配16個SXM3形式GPU，可共用的GPU記憶體皆為512GB（16個Nvidia Tesla V100 32GB），運算能力高達2 PFLOPS。

不過，相較於硬體規格固定的DGX-2，像是9029GP-TNVRT這樣的伺服器，優勢是用戶可擁有組態搭配的彈性。

例如，DGX-2採用處理器的是兩顆24核心的Xeon Platinum 8168，9029GP-TNVRT則只要求是Xeon Scalable系列；DGX-2搭配的系統記憶體是1.5TB，9029GP-TNVRT最多可搭配到3TB（24個記憶體插槽）；

DGX-2的硬碟組態是2臺960GB的NVMe SSD，搭配8臺3.84TB的NVMe SSD，而9029GP-TNVRT可採用16臺NVMe SSD，以及6臺SATA SSD。

至於網路介面的部分，DGX2提供8個100Gb的InfiniBand或100GbE連接埠，以及2個支援10GbE/25GbE的連接埠，而9029GP-TNVRT則是內建了2個10GbE埠（Intel X540），並且預留了16個PCIe 3.0介面卡的插槽，可安裝100Gb的EDR InfiniBand，以便支援GPUDirect RDMA的應用方式。

到了11月舉行的SC18大會，我們看到Supermicro展出這款基於HGX-2的10U尺寸伺服器。

同時，SC18大會現場也有其他伺服器廠商展出採用HGX-2平臺的產品。

像是2017年創立、隸屬於宏碁旗下的子公司安圖斯科技（Altos Computing），他們擺放了基於HGX-2架構的GPU擴充櫃（JBOG）機型G816 F5，除了容納16個SXM2形式的GPU，還能以此支援x86與Power9架構的伺服器。

另一家廠商則是雲達（QCT），當時他們展示的HGX-2伺服器並未標示型號，僅以「Next Gen Acceleated Server 」稱之。

針對2020年發布的HGX A100平臺，仍是Supermicro一馬當先採用，推出多款伺服器

整體而言，基於HGX-2平臺而成的伺服器，在2018年曾引發一些討論，但願意投入這條產品線的業者，以兩年後的現在來看，終究不多。根據Nvidia網站目前公布的GPU認證伺服器清單，採用HGX-2的廠商，只有Supermicro，推出一款機型，也就是本次所介紹的產品，以及2018年11月在GTC大會中國場宣布採用的浪潮（Inspur）。

雖然HGX-2未能吸引更多伺服器廠商採用、推出基於這種參考架構的產品，但Nvidia並不灰心，他們在2020年發表DGX A100之際，又於11月宣布推出新一代GPU整合基板（baseboard）平臺，也就是HGX A100，而這個平臺除了提供內建16 GPU的組態，還增加了4 GPU與8 GPU的組態選擇，而且是搭配A100 80GB，或許如此可提升伺服器廠商採用意願。

對此，Supermicro仍是搶先所有廠商一步，而且是在10月宣布將推出基於HGX A100的多款產品，目前已公布兩款機型，分別是2U尺寸、4 GPU的AS-2124GQ-NART，以及4U尺寸、8 GPU的SYS-420GP-TNAR，它們搭配的中央處理器均是AMD EPYC 7002，圖形處理器是Nvidia HGX A100 40GB。

值得注意的是，在Supermicro發出的新聞稿也提到，他們的這條產品線，會涵蓋1U、2U、4U、10U尺寸的GPU伺服器。看來除了上述2U和4U機型，Supermicro HGX A100系列產品也將有1U與10U機型，而且中央處理器可搭配AMD EPYC與Intel Xeon，但並未提及是否有6U（Nvidia最新推出的AI整合伺服器DGX A100是6U）。

產品資訊

Supermicro 9029GP-TNVRT
●原廠：Supermicro
●建議售價：廠商未提供
●機箱尺寸：10U
●處理器：2顆，Xeon Scalable系列
●記憶體：24個DDR4插槽
●儲存配置：16臺2.5吋NVMe SSD+6臺2.5吋SATA硬碟+2臺M.2 SSD
●搭配GPU：16個SXM3形式GPU
●I/O擴充介面：16個PCIe介面卡
●電源供應器：6臺3000瓦（1+1備援）

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】