今年5月底Nvidia共同創辦人暨執行長黃仁勳來臺演講,在台北國際電腦展颳起一陣AI旋風,該公司這段期間最受矚目的產品之一,正是結合CPU與GPU的Grace Hopper,首度在臺公開亮相,事實上,Nvidia先前就有類似這樣融合兩種運算平臺的產品,他們稱之為融合式加速器(Converged Accelerators),是結合GPU與DPU的產品,在2021年11月GTC秋季大會期間推出A100X和A30X,到了今年,或許是因為他們最新款 DPU產品BlueField-3(BF3)進入大量生產階段,於是,Nvidia也悄悄宣布推出新款融合式加速器AX800,當中結合代號為GA100的GPU(A100),以及BlueField-3 DPU,希望能藉此提供能在任何雲端服務環境部署使用的市售硬體設備,成為真正支援雲端原生與高效能應用的5G加速解決方案,方便企業在各種雲端業者或電信邊緣設備環境,進行5G Open RAN環境的部署。
對於雲端與電信服務業者而言,Nvidia認為AX800可支援多種應用方式,以及多租戶架構,透過相同的IT基礎架構,以及通用而非專屬設計的設備,就能同時支援5G 與AI工作負載,並且兼具資源使用率高,以及能動態擴展這些加速處理的執行規模等特色。
基本上,憑藉著這系列產品整合的Ampere架構資料中心GPU,由於內建GPU多執行個體分割(MIG)的技術,因此,能透過共用的GPU硬體資源池,同時處理多個虛擬化5G基站與邊緣AI應用程式,並確保每項功能得以一致、善用能源的方式,執行在同一臺伺服器與加速卡;若需要擴充使用規模,除了透過上述方式在加速卡當中進行動態擴充,也能在伺服器搭配多張融合加速卡,採購多臺搭配融合加速卡的伺服器,以及建置採用上述配置伺服器的資料中心,從不同層級來進行擴充。
而在使用成效上,Nvidia表示,若是在1臺2U尺寸伺服器搭配AX800,並且執行基於該公司5G vRAN軟體開發框架與套件Aerial而成的系統,吞吐量可達36 Gbps,能大幅改善軟體定義型態5G Open RAN解決方案的效能。
相較於現行Open RAN解決方案典型的尖峰吞吐量表現,上述的搭配可提升10 Gbps,對比以傳統方式建置的5G網路服務,可藉此提供超過30 Gbps的尖峰吞吐量。
之所以能達成如此顯著的效能提升,源於Aerial 5G vRAN技術堆疊架構中的實體層(L1)能獲得加速,
不久之後,AX800加速的範圍將涵蓋整個技術堆疊,能針對更多處理流程的環節進行最佳化,屆時可望帶來更大的效能突破。
值得注意的是,除了GPU與DPU本身具有強大的運算能力,AX800也受益於這兩種加速器的細部規格,例如,此處搭配的Ampere架構GPU記憶體頻寬逼近2 TB/s,以及BlueField-3支援256個執行緒——內建可程式化資料路徑加速器(Programmable Datapath Accelerator),足以應付I/O密集型工作負載,像是5G vRAN在L1層的處理作業。
而在AX800與Aerial的搭配效能表現上,Nvidia也揭露一些數據。例如,在分時雙工(TDD)傳輸模式下,若使用100 MHz頻率、4個下載與2個上傳,而且是100%實體資源區塊(PRB)的狀態下,最多可支援10個4T4R的基地臺,而基於這樣的配置,能讓系統各自達到下載36.56 Gbps,以及上傳4.794 Gbps的網路吞吐效能。
對於無線網路的通訊應用上,這樣的解決方案可廣泛支援多種規模,小至2T2R——頻率低於1GHz的微型部署,大至64T64R——巨型的多進多出(MIMO)部署。
產品資訊
Nvidia AX800
●原廠:Nvidia
●建議售價:廠商未提供
●外型:雙寬全高全長介面卡(PCIe 5.0 x16)
●運算架構:Ampere架構GPU搭配BlueField-3資料處理器
●GPU架構:Ampere
●GPU記憶體:80 GB HBM2e
●GPU記憶體頻寬:2,039 GB/s
●GPU互連介面:3個NVLink橋接器
●多執行個體GPU切割數量:7個
●網路介面:2個200 Gb/s乙太網路埠或InfiniBand埠
●熱設計功耗:350瓦
【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】
熱門新聞
2024-10-05
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07