自從Nvidia去年3月發表H100資料中心GPU以來,由於單一GPU的熱設計功耗首度來到700瓦,我們一直很關注伺服器廠商該如何兼顧既有產品設計來解決這個冷卻難題,以及哪一家能最快推出可搭配H100的機型。
以這類型伺服器上市時間而言,Dell最近喊出他們的XE9680是第一款供應市場的伺服器,已於3月底開始出貨,然而,若從釋出相關產品消息的數量與頻率而言,美超微(Supermicro)從最初Nvidia發表H100 GPU,這一年來已發出多達7篇新聞稿,談及他們的發展動向。
單就2022年來看,3月GTC 2022春季大會期間,Supermicro宣布計畫將推出數款搭配H100的GPU伺服器;9月GTC 2022秋季大會的前後,他們表示會有一款8U尺寸的GPU伺服器,可安裝的記憶體容量最高達8 TB,能搭配Nvidia的GPUDirect Storage技術,也將提供搭配PCIe介面卡形式與SXM運算模組形式的GPU伺服器;10月OCP全球高峰會期間,他們預告這臺8U的GPU伺服器會是8-GPU配置,可支援熱設計功耗為400瓦的CPU與700瓦的GPU,記憶體為DDR4,未來支援DDR5,硬碟儲存為6臺NVMe固態硬碟,I/O擴充介面提供10個;11月SC大會期間,適逢AMD發表第四代EPYC處理器,Supermicro宣布他們5大伺服器產品線現況——在4U尺寸GPU伺服器中,可搭配10張雙寬、全高全長GPU加速卡,Nvidia H100在資料中心GPU產品支援之列,而在8U通用GPU伺服器方面,將搭配HGX H100-8GPU與2顆CPU、24個記憶體插槽,提供彈性組態配置、雙區散熱(dual zone cooling),以及直通GPU、無阻塞的I/O頻寬。
到了2023年3月GTC春季大會之後,Supermicro終於公開搭配Nvidia H100 GPU的伺服器名稱。
以8U尺寸、8-GPU組態而言,該公司設有兩款機型:SYS-821GE-TNHR、AS-8125GS-TNHR,均採用Nvidia HGX H100-8GPU的系統板,CPU分別搭配英特爾第四代Xeon Scalable、AMD第四代EPYC 9004系列,記憶體皆支援DDR5-4800,提供的插槽數量各為32個與24個,容量最大可達8 TB、6TB,能安裝的硬碟數量分別為20臺、14臺(機箱前側預留24臺2.5吋硬碟插槽空間),網路介面可選用2個10GbE埠,但SYS-821GE-TNHR還可額外選用2個25GbE埠,
而在PCIe介面擴充槽與電源供應器數量上,這兩款伺服器預設均可安裝8+2共10張PCIe 5.0介面卡,以及6臺3000瓦的電源供應器(從廠商公布的機箱背部照片來看,最多能容納到12張PCIe介面卡,以及8臺電源供應器)。
而在採用4U與5U尺寸、4-GPU組態的產品上,Supermicro提供兩款機型:SYS-421GU-TNXR、SYS-521GU-TNXR,GPU均為Nvidia HGX H100 4-GPU的系統板,CPU均為英特爾第四代Xeon Scalable,記憶體插槽提供32個DDR5-4800規格,主要差異在於機箱尺寸(4U vs. 5U),以及能容納的硬碟儲存數量(6臺NVMe或SATA固態硬碟 vs. 10臺NVMe或SATA固態硬碟)。
值得注意的是,上述這些GPU伺服器預設仍採用氣冷散熱,搭配的系統風扇皆屬於高負載型(heavy duty)元件,SYS-821GE-TNHR、AS-8125GS-TNHR這兩款8-GPU伺服器,均用10臺高負載風扇(機箱前面5臺,背部5臺),至於4-GPU伺服器SYS-421GU-TNXR、SYS-521GU-TNXR,都用5臺高負載風扇(機箱中間)。
產品資訊
Supermicro SYS-821GE-TNHR
●原廠:Supermicro
●建議售價:廠商未提供
●機箱尺寸:8U
●處理器:2顆,第四代Xeon Scalable系列
●記憶體:32個DDR5-4800插槽,最大可擴充至8 TB
●儲存配置:24臺2.5吋NVMe或SATA固態硬碟+2臺M.2 NVMe固態硬碟
●搭配GPU:Nvidia HGX H100 8-GPU,8個SXM5形式GPU
●I/O擴充介面:12個PCIe 5.0 x16
●電源供應器:8臺3000瓦(3+3)
【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】
熱門新聞
2024-11-29
2024-11-29
2024-11-20
2024-11-29
2024-11-29