以PCIe挑戰NVLink架構，Dell EMC新款GPU伺服器上場

今年4月底舉行的Dell Technologies World期間，Dell EMC新發表一款伺服器DSS 8440，號稱是專為機器學習應用，以及其他需要頂級運算效能的工作負載而設計。

這臺2路架構、搭配4U尺寸機箱的伺服器，與我們三年前介紹的DSS 7000相比，體型、重量幾乎完全一樣，而且，同屬Dell EMC的極大規模基礎架構（Extreme Scale Infrastructure，ESI）產品線，但主打的特點是強大的運算效能，而非巨量儲存空間。

在I/O存取的部分，DSS 8440配備了4個PCIe交換式集線器，提供高速PCIe交織網路，從擴充介面卡的配置來看，這臺伺服器能搭配多張加速卡，例如，在機箱的內部，可容納10張雙寬、全長尺寸的GPU加速卡（目前可安裝4、8或10張Nvidia Tesla V100）；同時，機箱背部也預留9個PCIe插槽，可安裝8張全高尺寸介面卡，以及1張半高尺寸的介面卡。

另外，具有高性價比也是DSS 8440的主要訴求。相較於其他搭配8個SXM2形式GPU、強調NVLink互連架構的4U尺寸伺服器，搭配10張PCI介面卡形式GPU的DSS 8440，號稱能以更低成本提供相近的訓練效能。

例如，以HPE Apollo 6500 Gen10為基準，DSS 8440能在單一機箱搭配更多張GPU加速卡（10張Tesla V100 PCIe vs. 8個Tesla V100 SXM2） ；以相同的機箱密度而言，在Tensor運算效能上， DSS 8440略勝一籌（112 TFLOPS x10 vs. 125 TFLOPS x8） ；從電源使用效率來看，DSS 8440在常見的深度學習框架與卷積神經網路模型的訓練上，每瓦效能也是領先一些（幅度可達13.5％）。

若以Nvidia的DGX-1來對比，採用PCIe交織網路來建構Nvidia GPU互連架構的DSS 8440，也可提供相當接近的機器學習效能（差距在5％以內）。

搭配GPU之餘，DSS 8440未來可望搭配其他運算加速器，因為在Dell Technologies大會上，Dell EMC也與他們投資的AI運算加速新創公司Graphcore，宣布共同合作，預計今年稍晚，將在DSS 8440開始搭售Graphcore提供的C2運算加速卡（PCIe介面）。

Graphcore所開發的部分，是專門針對機器學習且基於圖學的運算技術，能夠在訓練類型的工作負載提供更高的效能，而C2裡面採用的運算架構，有別於CPU與GPU，稱為智慧處理單元（Intelligence Processing Unit，IPU），每顆處理器有2432顆獨立的IPU核心，最高提供2 PFLOPS，而晶片上的記憶體容量可配置到4.8GB，記憶體頻寬多達720TB/s，而IPU之間的資料傳輸也搭配了名為IPU-Links高速通道，具有2.5Tb/s的頻寬，能讓DSS 8440裝載的8張IPU加速卡連結起來，成為共用的運算資源池。

根據Graphcore在去年底公布的消息，在他們與Dell EMC的合作之下，將針對企業資料中心的環境，聯合推出整合式應用設備Dell-Graphcore IPU-Appliance，當中將包含8張C2，而每張C2加速卡會有2顆Colossus GC2的IPU處理器，可同時執行10萬支平行處理的應用程式，能為整臺設備提供近於1 PFLOPS的運算效能。

除了運算方面的規格，在儲存的配置上，DSS 8440最多能搭配10臺2.5吋硬碟或固態硬碟（2臺NVMe、2臺SAS/SATA、6臺NVMe/SAS/SATA），都位於機箱的背部，以整臺伺服器而言，最大可提供32TB的儲存空間。

產品資訊

Dell EMC DSS 8440
●原廠：Dell EMC
●建議售價：廠商未提供
●機箱尺寸：4U（434 x 178 x 865公釐）
●處理器：2顆，Xeon Scalable系列
●記憶體：24個DDR4插槽，最大768GB
●儲存配置：10臺2.5吋硬碟（2臺NVMe、2臺SAS/SATA、6臺NVMe/SAS/SATA）
●支援GPU加速卡：10張Nvidia Tesla V100
●電源供應器：4臺2400瓦（1+1備援）

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】