Dell推出搭4臺英特爾資料中心GPU或輝達H100的2U伺服器

在1年前舉行的SC22超級電腦大會期間，Dell針對高效能運算與人工智慧應用需求，發表PowerEdge XE系列伺服器3款機型，CPU均為英特爾即將推出的第四代Xeon Scalable系列，GPU區分為搭配SXM外形的Nvidia H100、A100，以及OAM外形的Intel Data Center GPU Max。

隨著今年1月英特爾第四代Xeon Scalable系列上市，Nvidia H100量產就緒，這幾款機型陸續登場。搭載8臺SXM外形的Nvidia H100、A100的XE9680，最先於3月亮相，在臺灣、新加坡都有公開發表活動，產品的效能測試數據公布在MLPerf Inference:Datacenter 3.0、3.1，以及MLPerf Training 3.1；搭載4臺SXM外形的Nvidia H100的XE8640，在5月登場，MLPerf Inference:Datacenter 3.1也列出此款機型的效能測試數據。

至於表定應該與上述兩款機型同在今年上半發表的XE9640，直到9月才釋出細部規格、內部結構等相關消息。

去年11月，Dell僅概述它是2U尺寸的GPU伺服器，將搭載4臺Intel Data Center GPU Max系列為一的OAM外形加速器主板，以及導入完全的直接液態冷卻（DLC）散熱機制；到了今年3月，Dell在臺灣展出實機時，這款伺服器外形就如同一般的2U尺寸伺服器，較顯著的差異是機箱尾端接出兩條水管，而在現場展示的設備機箱內部，我們能明確認出位於後半段的處理器、記憶體配置，但前半段空空如也，極有可能將資料中心GPU設置在此。

9月底在臺舉行的2023戴爾科技論壇，我們看到Dell現場特別陳列裝載GPU的3款PowerEdge XE機型，透過工作人員的解說與開箱展示，我們意外得知XE9640不僅如先前預告，可搭配Intel的GPU之餘，居然也能換成4臺SXM外形的Nvidia H100。

而在液態冷卻元件方面，XE9640採用CoolIT Systems的產品，並且能支援這家廠商提供的機櫃液態冷卻基礎架構，用於42U與48U尺寸機櫃的XE9640歧管設置。

值得注意的是，在整體資源配置上，我們注意到Dell於9月公布的技術規格指出，搭配不同GPU會影響XE9640支援的記憶體插槽數量。舉例來說，搭配Nvidia GPU，最大可使用32個記憶體插槽，能安裝到2 TB記憶體（單支64 GB），搭配Intel GPU，最大可使用16個記憶體插槽，能安裝到1 TB記憶體（單支64 GB）。若因為GPU不同而導致整臺伺服器的記憶體擴充性受限，恐怕會嚴重影響用戶搭配Intel GPU的意願。

關於實際導入XE9640的案例與XE9640的效能表現，11月初適逢SC23大會舉行，公布全球500大超級電腦排行榜，有一座採用XE9640的新進系統上榜，那就是英國最快的超級電腦「Dawn」，以第一階段的狀態拿下第41名，是由劍橋大學、英國研究創新局、Dell、英特爾聯合發展的，採用Intel Data Center GPU Max 1550。

AI效能測試結果MLPerf Inference: Datacenter 3.1也在此時公布，上面首度揭露XE9640的數據，搭配的GPU是Nvidia H100，若與同樣搭配4臺Nvidia H100的Dell PowerEdge XE8640相比，所差無幾，XE9640僅在gptj-99、gptj-99.9這兩組大型語言推論項目勝出，或許是因為XE8640可搭配更多臺固態硬碟。

產品資訊

Dell PowerEdge XE9640
●原廠：Dell
●建議售價：廠商未提供
●機箱尺寸：2U
●處理器：2顆，第四代Xeon Scalable系列（最高搭配56核心機型）
●記憶體：32個DDR5-4800插槽，最大可擴充至2 TB
●儲存配置：4臺2.5吋NVMe固態硬碟+2臺M.2 NVMe固態硬碟（BOSS-N1）
●搭配GPU：Nvidia HGX H100 4-GPU，4個SXM5外形GPU，或是Intel Data Center Max GPU 1550，4個OAM外形GPU
●I/O擴充介面：4個PCIe 5.0 x16（2個全高半長、2個矮版半長）
●電源供應器：4臺2800瓦（支援2+0、2+1備援、2+2備援）

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】