在去年5月中,Arm架構處理器廠商Ampere發表新一代產品:5奈米製程的AmpereOne系列,可提供136顆、144顆、160顆、176顆或192顆訂製型設計核心,整個運算平臺也支援8個通道的DDR5記憶體,以及128個通道的PCIe 5.0 I/O介面。該公司強調,相較於其他競爭的處理器產品,AmpereOne系列由於具有較低的延遲與更高的吞吐量,可提供2倍以上的AI推論運算效能領先優勢。
而在幾週後登場的2023台北國際電腦展期間,技嘉科技推出搭配這款處理器的2路伺服器機型,分別是2U尺寸的R283-P93,以及1U尺寸的R183-P92,到了10月中OCP年度全球高峰會期間,技嘉正式推出4款R系列AmpereOne伺服器,包含上述機型之餘,也增設兩款單路機型,分別是2U尺寸的R263-P33、1U尺寸的R163-P32。
相較於技嘉現行的Arm伺服器產品而言,這批新機型的主要差異在於搭配的處理器為AmpereOne系列,系統平臺也順勢升級採用DDR5記憶體與PCIe 5.0介面。而在市場需求的定位上,該公司將這些產品鎖定雲端服務供應商(CSP),專攻每座機櫃耗電量為1.2萬瓦到2.2萬瓦的資料中心環境。
以支援高運算密度配置的R183-P92為例,最多可提供384顆核心(搭配2顆AmpereOne 192顆核心款式)、安裝32支DDR5-4800記憶體(支援單支512 GB,最多可設置16 TB),擴充介面為2個PCIe 5.0 x16。既有的R182-P91最多可提供256顆核心(搭配2顆Altra Max 128顆核心款式)、安裝32支DDR4-3200記憶體(支援單支256 GB,最多可設置8 TB),擴充介面為2個PCIe 4.0 x16。
技嘉AmpereOne機型最大賣點是提供更多運算核心,每一臺伺服器最多可提供384顆核心,反觀市面上的產品,無論是採用Arm或x86架構處理器的2路伺服器,截至目前為止,最多只能搭配到256顆核心。
以Arm伺服器為例,技嘉有2U、4節點的機型H262-P60、H262-P61,以及1U、2路機型R182-P91,因為每一臺節點或伺服器能搭配2顆Ampere Altra Max系列處理器,最多可設置256顆核心(安裝2顆M128-26或M128-28或M128-30);而HPE旗下的ProLiant RL300 Gen11,可搭配1顆Ampere Altra Max系列處理器,最多可設置128顆核心(安裝1顆M128-30)。
在x86伺服器方面,因為AMD去年6月正式推出研發代號為Bergamo的EPYC 97X4系列,單顆處理器最多可提供128顆核心,若是1U尺寸2路的伺服器機型,最多可設置256顆核心(安裝2顆AMD EPYC 9754),像是稍早推出的HPE ProLiant DL365 Gen11、Dell PowerEdge R6625,到了2023年下半之後,均可搭配這批處理器,而能支援上述運算組態。
除了提供更多運算核心,在AmpereOne伺服器系統帶來哪些運算效能突破?我們可參考Ampere去年5月公布的多組測試數據。
例如,在虛擬機器的效能表現上,他們比較192核心的AmpereOne對上96核心的AMD EPYC 9654,以及56核心的英特爾Xeon Platinum 8480+,在42U、耗電量1.65萬瓦的機櫃置入伺服器38臺、26臺、30臺,每座機櫃可提供7,296顆核心、2,688顆核心、1,680顆核心,若將1顆核心視為1臺虛擬機器,等於可支撐7,296臺、2,688臺、1,680臺,這意味著,192核心AmpereOne伺服器的伺服器虛擬化效能,相當於96核心AMD EPYC 9654伺服器的2.9倍,或是56核心英特爾Xeon Platinum 8480+的4.3倍。
另一組是AI效能的測試比較。他們以160核心的AmpereOne對上96核心的AMD EPYC 9654,在42U、耗電量1.4萬瓦的機櫃分別設置單路伺服器23臺與25臺,並於Pytorch框架進行DLRM推薦模型的處理,觀測運算效能,結果顯示AmpereOne伺服器機櫃每秒查詢次數為1,885萬次,AMD EPYC 9654伺服器機櫃為891萬次。另一個效能測試,是以Pytorch執行生成式AI模型Stable Diffusion V2,比較兩種伺服器系統的差異,以23臺AmpereOne伺服器組成的機櫃,每秒可處理0.828個畫面,而以26臺AMD EPYC 9654伺服器組成的機櫃為0.364個畫面。
而在去年10月中舉行的OCP全球高峰會,Ampere揭露更多AmpereOne伺服器效能測試數據。
在耗電量為1.5萬瓦的機櫃當中,以AmpereOne A192-26對上代號為Genoa的AMD EPYC 9654(96核心)、代號為Bergamo的AMD EPYC 9754S(128核心),效能可分別領先50%、68%,而在每瓦效能與每機櫃效能的數值表現,差距更是相當顯著。
產品資訊
技嘉R183-P92
●原廠:技嘉科技
●建議售價:廠商未提供
●機箱尺寸:1U
●處理器:2顆Ampere AmpereOne系列(136/144/160/176/192顆核心)
●記憶體:32個DDR5-4800插槽,最大可安裝到16 TB(支援512GB容量記憶體)
●硬碟容量:前端12臺2.5吋硬碟
●網路埠:2個GbE(Intel I350-AM2)
●擴充介面:2個PCIe 5.0 x16(全高半長)、2個PCIe 5.0 x16(OCP 3.0)、1個PCIe 5.0 x4(M.2)
●電源供應器:2臺2000瓦(80 PLUS Platinum)
【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】
熱門新聞
2024-08-14
2024-12-20
2024-12-22
2024-12-23