今年生成式AI崛起,資料中心GPU成為眾多廠商與企業爭相採購的產品,其中又以Nvidia H100最為搶手,市面上,可搭配4臺或8臺SXM外形H100的伺服器機型受到熱烈關注,Dell、Supermicro、雲達、技嘉等國際及臺灣大廠的相關產品接連登場,HPE卻顯得異常低調,遲遲未看到他們加入推廣這類伺服器的戰局。

從Nvidia公布的合格系統目錄當中,我們找到HPE目前有兩款伺服器可搭配SXM外形H100,分別是採用HGX H100 4-GPU的Cray XD665,以及HGX H100 8-GPU的Cray XD670,而在10月中舉行的HPE Discover More Taipei 2023大會期間,原本我們以為會看到上述產品亮相,沒想到現場用來展示該公司AI創新應用的伺服器,卻是另一款可搭配PCIe版本H100 GPU的機型,ProLiant DL380a Gen11。

這是專門針對執行GPU運算密集型工作負載的產品,可支援AI、深度學習的訓練與推論、智慧影像分析(IVA)、側重影像處理的虛擬桌面基礎架構(VDI)等多種應用,於今年3月推出,晚於ProLiant Gen11其他機型。

就機型名稱、外形、整體配置而言,DL380a Gen11與DL380 Gen11大致相似,例如,均搭配2U尺寸機箱、2路配置,但細部規格有明顯差異。例如,處理器採用英特爾第四代Xeon Scalable,最高時脈均為3.7 GHz,但DL380 Gen11可搭配16到60核心的CPU,DL380a Gen11則是搭配8到56核心的CPU;記憶體方面,同樣支援DDR5-4800,DL380 Gen11內建32個插槽,最大可安裝到8 TB(單支記憶體256 GB),DL380a Gen11則是24個,最大可安裝到3 TB(單支記憶體128 GB)。

關於硬碟儲存方面的差異更大,DL380 Gen11前側可設置8或12臺3.5吋傳統硬碟或固態硬碟,或是24臺2.5吋傳統硬碟或固態硬碟,背部可選裝6臺2.5吋傳統硬碟或固態硬碟,存取介面涵蓋SATA、SAS、NVMe;DL380a Gen11只支援NVMe固態硬碟,前側目前可設置8臺2.5吋固態硬碟,或是8臺E3.S外形固態硬碟。

在PCIe擴充部分,DL380 Gen11最多可安裝8張全高全長介面卡,當中能搭配2張Nvidia A100 80GB PCIeA16 64GB PCIe;而稍晚推出、主打GPU應用的DL380a Gen11,可安裝4張全高半長介面卡,目前能搭配4張雙寬尺寸的GPU,像是Nvidia的A100 80GB PCIe、H100 80GB PCIe、L40 48GB PCIe,以及Intel的Data Center GPU Max 1100,預計未來提供安裝8張單寬尺寸GPU的選項。

值得注意的是,多數伺服器若要搭配PCIe板卡形式的GPU,通常會將其放置在機箱後半段,DL380 Gen11就是如此,但DL380a Gen11將GPU設置在機箱前段的左右兩側。

事實上,這並非HPE ProLiant Gen11唯一這樣設置GPU的機型。採用AMD第四代EPYC處理器的機型幾乎都採用這樣的設計,像是DL325 Gen11、DL345 Gen11、DL385 Gen11,至於Intel第四代Xeon Scalable處理器的機型,有DL320 Gen11,以及這款DL380a Gen11。

為何上述ProLiant Gen11機型採用這樣的GPU配置?HPE表示,當GPU能夠放置在機箱前段,帶來兩個好處,一是不會受到機箱後段PCIe橫向擴充卡的空間限制,影響可安裝的GPU數量,另一是機箱前段的進氣溫度較低,有助於GPU散熱。而在《HPE ProLiant Gen11 AI optimized solutions》這份白皮書則指出,這麼做可改善氣流、增加GPU密度,並且替每張GPU提供專屬電源供應,延長GPU運作時間。

除此之外,DL380a Gen11還有一個過去伺服器搭配多張PCIe板卡GPU較少有的配置,那就是提供GPU橋接器,可提升GPU之間的雙向存取能力,進而增加GPU運算吞吐量、實現跨GPU的記憶體共享,改善效能與資源利用率。

HPE在3月初步推出這款GPU伺服器機型時,就提供名為「Ampere 2-way 2-slot Bridge」的設置,可透過NVLink介面連接兩張PCIe板卡形式的A100或H100,每一對串連可搭配3張GPU。而HPE在10月最新公布的DL380a Gen11第5版規格,宣布開始支援Intel的Data Center GPU Max 1100之餘,也提供「Intel XeLink x2 Bridge」的配置,可連接2張這款GPU。

產品資訊

HPE ProLiant DL380a Gen11
●原廠:HPE
●建議售價:廠商未提供
●機箱尺寸:2U
●處理器:2顆,第四代Intel Xeon Scalable系列(最多56顆核心)
●記憶體:24個DDR5-4800,插滿128 GB,可達到3 TB
●儲存配置:8臺2.5吋NVMe固態硬碟或E3.S外形NVMe固態硬碟
●I/O擴充介面:4個PCIe 5.0 x16(全高半長)
●電源供應器:4臺1600瓦或1800至2200瓦
●GPU選擇:Nvidia H100 80 GB PCIe、Nvidia L40、Intel Data Center GPU Max 1100

【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】

熱門新聞

Advertisement