HPE首推雙GH200伺服器，配備288核、雙GPU與1.2T記憶體

去年台北國際電腦展之後，市面上出現融合式GPU伺服器，採用的運算平臺是Nvidia GH200 Grace Hopper Superchip，我們曾介紹2U單節點組態的雲達QuantaGrid S74G-2U，以及1U雙節點組態的Supermicro ARS-111GL系列，技嘉也推出2U單節點組態的XH23-VG0、2U雙節點組態的H223-V10、H263-V11，基本上，這些伺服器的共通點均是採用單張GH200超級晶片，從今年6月開始，市面上將出現搭配兩張GH200超級晶片的伺服器，這種組態先前稱為Dual GH200，後續改稱為GH200 NVL2。

而率先推出採用GH200 NVL2的伺服器，是HPE最新發表的ProLiant DL384 Gen12。這款產品源於該公司與Nvidia共同推出的產品組合策略Nvidia AI Computing by HPE，雙方合作開發的AI解決方案稱為HPE Private Cloud AI，涵蓋Nvidia的整合軟體平臺AI Enterprise與AI推論微服務NIM，Spectrum-X乙太網路架構，資料中心GPU產品H100 NVL、GH200 NVL2，以及HPE的儲存即服務GreenLake for File Storage、可搭載上述GPU的ProLiant伺服器，

這些伺服器包含既有的DL320 Gen11與DL380a Gen11，以及新發表的DL384 Gen12與DL380a Gen12，7月1日HPE在自家網站公布前者的細部技術規格，公開第1版的硬體配置，此舉也等於正式揭開HPE ProLiant Gen12世代伺服器的序幕。

DL384 Gen12採用2U尺寸機箱，系統遠端管理晶片仍為iLO6，而在運算平臺的部分，用戶可選擇搭配1或2張GH200超級晶片，而且，周邊裝置存取的配置相當對稱，HPE表示，每張超級晶片支援2臺EDSFF外形的NVMe固態硬碟，1張全高半寬的PCIe介面卡，以及2臺PCIe x4介面的NVMe固態硬碟，或1張PCIe x16的OCP 3.0外形介面卡，或1張全高半寬的PCIe介面卡（4個PCIe x16裝置）。

換言之，如果伺服器出廠預設值選擇搭配2張GH200超級晶片，就能擴充數量多一倍的固態硬碟與PCIe介面卡（8個PCIe x16裝置）。

而從CPU與GPU的規格而言，若採用GH200 NVL2的組態，DL384 Gen12所能運用的運算與記憶體資源，都有1:1比例的線性提升。例如，CPU內建的Arm Neoverse V2核心數量，從72顆擴展到144顆，DRAM記憶體LPDDR5X容量從480 GB擴展到960 GB，GPU搭配的HBM3e記憶體，容量也從144 GB擴展到288 GB，頻寬從4.9 TB/s擴展到9.8 TB/s。

若以記憶體容量80 GB、記憶體頻寬為3.35 TB/s的單個Nvidia H100為基準，本身內建2個Nvidia H100的GH200 NVL2，GPU記憶體容量增長至3.5倍，GPU記憶體頻寬增長至3倍。

而以整臺伺服器而言，GH200 NVL2配備的系統記憶體總量可達到1.2 TB，足以因應運算與記憶體密集型的工作負載，HPE表示，DL384 Gen12不僅適合需要巨量記憶體的大型語言模型AI推論，也能用於非AI的任務，像是大型模擬運算、電子設計自動化（EDA）、氣象預測。

至於CPU至GPU的I/O存取，由於這款超級晶片採用Nvidia NVLink-C2C，因此，對於DL384 Gen12而言，不論是在CPU與GPU之間，或是跨越同超級晶片的GPU與GPU之間，均可提供900 GB/s的頻寬，而在跨越不同超級晶片的CPU與CPU之間，則是600 GB/s的頻寬。

除了率先配備Nvidia GH200 NVL2是最大賣點，HPE ProLiant DL384 Gen12的硬碟儲存組態也相當獨特，用戶最多可在機箱最前緣安裝8臺E3.S外形的NVMe固態硬碟，目前能搭配1.6 TB到15.36 TB容量的款式，整台伺服器最大可提供122.8 TB固態儲存空間，機箱內部的前段也能安裝2臺M.2外形NVMe固態硬碟。

關於網路介面，DL384 Gen12可搭配乙太網路10/25GbE、100GbE規格，以及InfiniBand 200 Gb、400Gb規格的網路卡，或是資料處理器加速卡，例如，BlueField-3 DPU的B3220（乙太網路或InfiniBand 200Gb，全高半長），BlueField-3 SuperNIC的B3140H（乙太網路或InfiniBand 400Gb，半高半長）。

產品資訊

HPE ProLiant Compute DL384 Gen12
●原廠：HPE
●建議售價：廠商未提供
●機箱尺寸：2U
●處理器：1或2張Nvidia GH200 Grace Hopper Superchip（GH200或GH200 NVL2）
●記憶體：GH200：CPU對應嵌入LPDDR5x記憶體480 GB，GPU對應HBM3e記憶體144 GB；GH200 NVL2：CPU對應嵌入LPDDR5x記憶體，容量960 GB，GPU對應HBM3e記憶體，容量為288 GB
●硬碟容量：8臺E3.S外形NVMe固態硬碟
●擴充介面：PCIe 5.0 x16，4張全高半長介面卡，或2張半高半長介面卡與2張OCP 3.0介面卡
●電源供應器：4臺1800至2200瓦（N+N備援）

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】