回顧過去幾年的伺服器市場,大部分廠商都積極投入GPU伺服器產品的推出,尤其是採用大尺寸機箱、配備8個SXM形式的輝達資料中心GPU組態,更被視為爭奪AI加速運算伺服器商機的重要指標,可惜的是,部分廠商這段期間並未持續推出這樣的產品,直到最近,終於再度供應相關的解決方案。

像是思科在2018年發表搭載8個Nvidia Tesla V100的UCS C480 ML M5,之後遲遲未推出採用這類GPU組態的伺服器,到了2024年10月Cisco Partner Summit期間,他們突然宣布,預計將推出搭載8個SXM外形Nvidia H100H200的伺服器,名為UCS C885A M8,此時開放訂購,預計年底向客戶出貨。在今年2月舉行歐洲年度用戶大會Cisco Live Amsterdam期間,思科也正式宣布UCS C885A M8上市,並將此時發表的新款PCIe型GPU伺服器UCS C845A M8,與其並列為UCS高密度GPU伺服器機型,支援資料密集型的應用需求,專攻大型語言模型(LLM)的訓練、微調,以及大規模的AI模型推論、檢索增強生成(RAG)。

透過這樣的高密度、高性能GPU配置,UCS C885A M8能夠支撐最繁重的AI訓練與推論工作負載,當中也將搭配Nvidia網路卡與資料處理器(DPU),以便加快AI網路傳輸效能,以及促成強健的零信任資安防護。思科強調,這是他們首度進軍專屬AI伺服器產品的範疇,也是他們第一款基於Nvidia HGX這個匯聚多個GPU平臺而成的伺服器。

  

根據思科目前釋出的產品規格來看,UCS C885A M8採用8U尺寸的機箱,所能搭配的資料中心GPU,其實並不僅止於8個SXM外形的Nvidia H100或H200,搭配NVLink互連架構,還能選擇8個OAM外形的AMD Instinct MI300X,搭配Infinity Fabric互連架構,而且,這樣的配置均已分別列入Nvidia的Qualified System Catalog,以及AMD的Qualified Server Catalog。

  

  

關於網路介面的配置,也是UCS C885A M8一大特點。除了搭配1張OCP 3.0規格、內建兩個10GbE埠的英特爾網路卡X710-T2L,思科針對這臺伺服器的東西向網路流量,也就是多個伺服器機箱之間的連線存取,設置8張內建1個400GbE埠的網路卡Connect-X7,或資料處理器BlueField-3 B3140H SuperNIC;而在南北向網路流量方面,UCS C885A M8也設置5張內建2個200GbE埠的資料處理器BlueField-3 B3220。

  

產品資訊

Cisco UCS C885A M8
●原廠:Cisco
●建議售價:廠商未提供
●機箱尺寸:8U
●處理器:2顆AMD第四代EPYC系列(9554,64核心)或2顆AMD第五代EPYC系列(9575F,64核心)
●記憶體:24個96GB的DDR5-4800或DDR5-6000,整臺2.25 TB
●儲存配置:16臺1.92 TB 2.5吋U.2外形NVMe固態硬碟+1臺M.2外形NVMe固態硬碟
●搭配GPU:Nvidia HGX H100 8-GPU,8個SXM5形式GPU,或是Nvidia HGX H200 8-GPU,8個SXM5形式GPU,或是AMD Instinct MI300X 8-GPU,8個OAM形式GPU
●I/O擴充介面:13張PCIe 5.0 x16全高半長介面卡,5張全高半長搭配BlueField-3 DPU(B3220、B3240)支援南北向流量,8張半高半長搭配ConnectX-7或BlueField-3 DPU,支援東西向流量
●電源供應器:2臺2700瓦(N+1備援)、6臺3000瓦(N+2備援)

【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】

熱門新聞

Advertisement