搭配8個OAM外形Intel Gaudi 3，HPE推出非GPU的AI伺服器

最近這一年來，HPE開始重新積極追趕AI伺服器產品的風潮。他們在ProLiant Gen11世代的機架伺服器當中，標榜可搭配PCIe介面卡形式的GPU加速器，而在逐漸開展的下個世代機架伺服器ProLiant Gen12，目前已發表的機型如DL380a Gen12、DL384 Gen12，也強調分別可搭配8張加速卡Nvidia H200 NVL、2張融合加速運算模組Nvidia GH200 NVL2。

除此之外，HPE還有一款在2023年推出的Cray XD670，目前可搭配8個SXM外形的Nvidia H100或H200。

若要搭配其他廠牌的AI加速器，HPE在2024年也陸續提供多款機架式伺服器，像是：2024年上半發表的Cray XD675，當中採用8個OAM外形的AMD Instinct MI300X，在6月舉行的2024台北國際電腦展期間，AMD介紹旗下的資料中心GPU產品時，也特別提及HPE這款伺服器機型。另一款是11月中登場的ProLiant Compute XD680，當中搭配8個英特爾9月正式推出的AI加速器Intel Gaudi 3，而且，該款伺服器在SC24這場全球超級電腦年度大會前夕發表，預計12月開始供貨。

根據HPE發表的新聞稿指出，XD680的特色是考量到最佳性價比的需求，並且採用氣冷散熱設計，可因應嚴苛的AI訓練、調校與推論工作負載。

而在HPE最新釋出的規格快速一覽表當中，他們強調XD680提供完整、具有延展性的解決方案，能彈性搭配多種記憶體、整合式儲存、高速網路介面的配置，以及作業系統，可因應AI與高效能運算的用戶所需，能夠針對大型語言模型的AI訓練與深度學習處理，供應最大的效能。

接下來，我們從產品規格對照HPE如何實作這些特色。

他們推出的XD680採用5U尺寸的機箱，可搭配兩顆英特爾第四代或第五代Xeon Scalable處理器，記憶體插槽有24個，16個支援DDR5-4400、DDR5-4800或DDR5-5600，其餘8個僅支援DDR5-4400，整臺伺服器的記憶體容量最大為2 TB（16個插槽全部插滿DDR5-4800或DDR5-5600的128 GB記憶體），或是3 TB（24個插槽全部插滿DDR5-4400的128 GB記憶體）。

而在AI加速器的部分，XD680的確搭配OAM外形的Intel Gaudi 3，但HPE在這部份並未列出這款加速器是否為HL-325基板，以及細部運算配備，像是內建的HBM記憶體類型與容量，矩陣乘法引擎（MME）與張量處理器核心（TPC）各自的數量，HPE此處僅列出熱設計功耗（TDP）為850瓦，與英特爾公告的Intel Gaudi 3規格有出入（氣冷900瓦、液冷1200瓦）。也許後續他們會進一步揭露這部分配置。

對比於HPE既有的ProLiant Gen11與Gen12系列伺服器，XD680同樣內建iLO6系統管理晶片，支援整合式IT基礎架構管理平臺OneView、系統集中管理軟體HPE Systems Insight Manager的使用，以及防竄改的矽信任根、選用平臺信任模組TPM 2.0、搭配支援SPDM裝置身分驗證的儲存控制器。

在此同時，HPE也推出ProLiant Compute XD685，裡面可搭配8個Nvidia H200、採用5U尺寸的機箱，並且使用它們本身發展的液態冷卻技術，預計2025年初上市，HPE預告這款機型未來能搭配即將問世的Blackwell架構GPU，將在Nvidia能夠供應這款GPU產品時，與其一併推出。

但ProLiant Compute XD685並非此時才推出，稍早在10月AMD發表第五代EPYC伺服器處理器，以及資料中心GPU產品Instinct MI325X時，HPE就已先發表ProLiant Compute XD685，強調當中可搭配8個OAM外形的AMD Instinct MI325X，預計2025年第一季供貨，到了11月中HPE揭露的產品發表消息，他們是以不同版本區分這兩種搭配方式，而由於HPE目前尚未公開XD685的細部規格，因此，最終組態還是要看他們如何配置。

產品資訊

HPE ProLiant Compute XD680
●原廠：HPE
●建議售價：廠商未提供
●機箱尺寸：5U
●處理器：2顆，Intel第五代Xeon Scalable系列（最多64核心）
●記憶體：24個DDR5-4400，插滿128 GB，可達到3 TB；支援DDR5-4800（Intel第四代Xeon Scalable系列，插滿16支128 GB，可達到2 TB）、DDR5-5600（Intel第五代Xeon Scalable系列，插滿16支128 GB，可達到2 TB）
●儲存配置：8臺2.5吋U.3外形NVMe固態硬碟
●I/O擴充介面：PCIe 5.0 x16，8個或4個PCIe介面卡插槽、2個OCP 3.0裝置插槽
●電源供應器：6臺3000瓦（N+1備援）
●風扇：6臺
●加速器配置：8臺Intel Gaudi 3（OAM）
●網路介面：搭配英特爾網路卡：I350-T4（1GbE）、E810（10/25GbE、100GbE），Nvidia網路卡：ConnectX-6（200GbE），博通網路卡：BCM57416（10GbE）

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】