從去年底開始,隨著Nvidia資料中心GPU產品H100量產,以及AMD、英特爾最新一代伺服器CPU上市,再加上生成式AI應用暴紅,導致GPU伺服器需求大增,尤其是可搭載8個SXM外形的H100的機型,最受到市場矚目,我們也持續關注哪些廠牌可以最先提供這類產品。
根據Nvidia維護的認證合格伺服器型錄網站Qualified System Catalog,可以了解這方面的資訊,而在2023年初,我們在Nvidia GPU的欄位指定條件為HGX H100 8 GPU 80GB,當時只有一家臺灣廠商的產品被列入,那就是我們現在所要介紹的技嘉G593-SD0。截至目前為止,除了上述機型,Nvidia在此處型錄僅增列4款產品,分別是華碩ESC N8-E11、Dell EMC PowerEdge XE9680、HPE Cray XD670、Supermicro SYS-821GE-TNHR。
事實上,技嘉採用HGX H100 8-GPU組態的伺服器,已有3款之多。在4月底,他們不僅提供搭配英特爾處理器的G593-SD0,也有搭配AMD處理器的G593-ZD2,到了5月底台北國際電腦展期間,他們推出G593-SD0的微調版G593-SD2。
相較於市售的HGX H100 8-GPU組態伺服器,往往搭配6U至8U尺寸的機箱,技嘉這3款產品都採用5U尺寸的機箱,可節省一些機架空間,並且都配置6臺3000瓦規格的電源供應器(4+2備援)。
而在儲存組態方面,它們的前方面板都能安裝6臺2.5吋硬碟,其中的G593-SD0與G593-SD2,可搭配SATA、SAS或NVMe儲存裝置,G593-ZD2預設搭配NVMe儲存裝置,主機板額外提供2個M.2插槽,可安裝這種外形的固態硬碟。
在處理器平臺與記憶體資源方面,G593-SD0與G593-SD2均採用英特爾第四代Xeon Scalable處理器,可安裝32支DDR5-4800記憶體,最高能擴充至8 TB(支援單支256 GB),彼此最大差異在於PCIe介面卡的規格:G593-SD0可置入13張短版介面卡,其中12張支援PCIe 5.0,1張支援PCIe 4.0,G593-SD2能搭配4張全高半長介面卡(可用於安裝Nvidia的BlueField資料處理器加速卡),以及8張短版介面卡,均支援PCIe 5.0。
G593-ZD2採用AMD第四代EPYC處理器,可安裝24支DDR5-4800記憶體,最高能擴充至6 TB(支援單支256 GB),可搭配4張全高半長介面卡,以及8張短版介面卡。
就機箱內部結構而言,技嘉表示,G593系列伺服器分為上下兩層,頂部的1U空間主要是放置中央處理器、記憶體,底部的4U空間則是HGX H100 8-GPU模組,以此將散熱區域的溫控與耗電量集中,便於提升降溫與用電的效率。
關於散熱方面的規格,我們注意到技嘉特別詳細列出3款機型的系統風扇配置,在機箱的前、中、後,都設置8到10臺的風扇,技嘉表示,他們關注解熱效益,因此,在設計G593系列時,他們希望能在零組件和空間作出更理想的配置,促使機箱的風流、導流獲得良好運作效率。
相較於搭配數量較少的大尺寸風扇,他們在此系列的伺服器採用小型風扇,相對可占用較少的機箱空間;而配置更多風扇的原因在於,採用2個小型風扇比起1個大型風扇,能夠產生更強的風量,亦可依區域降溫需要來調整風速,藉此帶來更高的整體省電效益,並且有效減少風扇運作的噪音。
當伺服器機箱搭配較多的風扇之後,是否對設備維護產生更大負擔與停機時間,技嘉表示,維修的情況應該各家產品都一樣,位於機箱外部的風扇若故障,可透過熱插拔來替換,如果是設置在內部的風扇需維護,伺服器也都需要為此停機。
在運算效能的部分,技嘉將G593-SD0的測試結果提交至MLCommons,而在今年6月底公布的MLPerf Training v3.0,G593-SD0這款機型榜上有名,相較於同樣採用HGX H100 8-GPU組態的伺服器當中,他們提供3個組態的測試結果當中,有兩個分別拿下醫療影像分割與自然語言處理的第一名,表現並不輸Dell、Nvidia、雲達、Supermicro等廠牌的機型。
產品資訊
技嘉G593-SD0
●原廠:技嘉科技
●建議售價:廠商未提供
●機箱尺寸:5U
●處理器:2顆,第四代Xeon Scalable系列(最高搭配60核心機型)
●記憶體:32個DDR5-4800插槽,最大可擴充至8 TB
●儲存配置:8臺2.5吋SATA/SAS/NVMe固態硬碟
●搭配GPU:Nvidia HGX H100 8-GPU
●I/O擴充介面:12個PCIe 5.0 x16介面卡(短版)、1個PCIe 4.0 x16介面卡(短版)
●電源供應器:6臺3000瓦(4+2備援)
●系統風扇:30臺(前5+6,後6+3,中6+4)
●網路埠:2個10GbE埠(Intel X710-AT2)
【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】
熱門新聞
2024-12-08
2024-12-08
2024-11-29
2024-12-08