英特爾：企業未來資料中心設計將因生成式AI帶來新變革，液體冷卻技術和配備更高記憶體頻寬的伺服器系統是發展關鍵

隨著生成式AI迅速崛起，企業開始思考未來資料中心設計，來因應生成式AI應用發展，甚至一些科技巨頭已經開始打造AI資料中心。例如臉書Meta正在打造下一代AI資料中心，該資料中心將具有液冷式人工智慧硬體，以及高效能人工智慧網路，將數千個MTIA人工智慧晶片連結在一起，以建立起資料中心規模的人工智慧訓練叢集，支援未來10年生成式人AI應用研究。

英特爾資料中心平臺工程與架構事業群總經理Zane Ball在近日的英特爾創新日會後一場媒體活動上表示，生成式AI的興起，對於資料中心帶來了重要變革之一，將加速企業資料中心對於液體冷卻（liquid cooling）技術的採用。

Zane Ball表示，執行生成式AI應用對於系統能耗負擔很大，因此需要新的硬體散熱機制。他認為，越來越多的企業將在新資料中心中導入液體冷卻技術，來協助伺服器系統的散熱，不僅是為了節省能源，還為了支援更高能耗的加速運算元件所需。他認為這有助於加速企業資料中心採用液體冷卻技術。

但他直言，要實現實用且易於部署的液體冷卻技術，需要產業間的合作，「雖然這需要時間，但這件事讓人感到興奮，也代表新機會。」他說。

不只是冷卻散熱機制的改變，未來伺服器硬體設計需要有新的變革。為了提升伺服器所能處理的推論模型參數，Zane Ball指出，未來將持續改進Xeon處理器在AI運算效能方面。他表示，過去英特爾已經取得了顯著的進步，例如與第三代Xeon處理器相比，第四代Xeon處理器的AI處理效能提升多達14倍。因此未來將持續發展能夠支援更大參數的模型、更高記憶體頻寬的伺服器系統，「這正是我們未來CPU發展的方向。」

英特爾將在12月14日推出代號為Emerald Rapids的第5代Xeon伺服器處理器，也是針對企業資料中心AI應用需求所設計，採用和前一代相同節點，但核心數達到64核，而且具備更快的記憶體傳輸速度。

從英特爾對於資料中心AI系統的分類，也能夠反映出不同型態伺服器，能夠支援處理的推論模型參數的規模。

若以單一CPU插槽的Emerald Rapids伺服器來舉例，Zane Ball也表示，這種伺服器適合處理100億參數的模型推論任務，他強調，雖然執行更多參數的模型是有可能，但考慮到系統的效能， 100億個參數會是較為合理的數量。