HPE液冷解決方案助力AI資料中心提升效能、密度及永續性

Hewlett Packard Enterprise（NYSE: HPE）為因應AI時代的來臨，推出創新液冷技術的解決方案，以應對AI系統日益增長的散熱需求。AI是當前運算最密集的工作負載之一，導致AI系統的耗電量和相關能源成本也顯著上升。今年初，國際能源署（IEA）報告指出，2022年全球資料中心用電量佔總用電量的2%，並預測這個比例到2026年可能會增加一倍以上¹。

儘管次世代加速器的效能已有所提升，但隨著AI應用日益普及，耗電量仍會持續增加。資料中心需要更有效率地運行AI工作負載，然而，現有設施已無法滿足日益增長的處理器功耗所帶來的散熱需求。因此，液冷技術應運而生，成為應對這一挑戰的解決方案。

AI時代的降溫利器

相較於使用風扇的傳統氣冷技術，液冷技術—特別是直接液冷技術（Direct Liquid Cooling，DLC）—是將冷卻劑直接泵入伺服器中，以吸收處理器散發的熱量，並傳輸到資料中心外的熱交換系統。

HPE在開發與提供創新液冷系統方面擁有數十年的豐富經驗，為運行高效能運算（HPC）工作負載的大型系統提供高效冷卻解決方案。未來採用最新加速器的AI基礎架構也同樣需要創新的液冷技術，以解決電力效率、永續性，甚至系統韌性等關鍵問題，從而確保AI工作負載能持續運行。

液冷技術是AI資料中心的理想解決方案之四大因素：

一、高效能晶片的散熱挑戰

HPE的業界夥伴在次世代加速器的工程設計上取得顯著成就，大幅提升了AI效能和效率。雖然新型晶片設計旨在以更小體積達到更高效能，但這也意味著冷卻其關鍵元件將變得更加困難。若無法及時冷卻晶片，資料中心可能面臨過熱問題，導致系統故障，最終造成AI工作無預警停止。液冷技術能更快速且有效地冷卻這些晶片，因為水的熱容量是空氣的三倍²，可吸收更多加速器和其他元件（如CPU、記憶體和網路交換器）所產生的熱量。

二、實現AI價值並降低對環境的衝擊

儘管高效冷卻次世代加速器非常重要，但企業仍需採用更永續的方式來實現此一目標，為地球盡一份心力。對次世代加速器而言，液冷技術在永續性和成本方面具有顯著優勢。以一個擁有一萬台伺服器的HPC資料中心為例，若皆採用氣冷技術，資料中心每年將排放超過8,700噸的二氧化碳，而採用液冷技術的伺服器，每年僅排放約1,200噸的二氧化碳³。這意味著能耗減少了87%，每年排放到大氣中的二氧化碳減少了1,780萬磅。如此顯著的能耗減少必為企業帶來可觀的成本節省。在擁有一萬台液冷伺服器的資料中心中，每台伺服器的年度成本僅為45.99美元，而氣冷伺服器的年度成本則高達254.70美元，這相當於每年可節省近210萬美元的營運成本³。

三、重複再利用AI系統產生的能源

液冷技術的優勢遠不僅止於此，它將能持續帶來效益。液冷系統在吸收熱量後，會將熱量轉移到資料中心外的熱交換系統，並利用這些熱水為其他建築或設施提供能源。美國能源部國家再生能源實驗室（NREL）已成功採用此方式多年。作為全球領先的再生能源研究中心之一，該實驗室從HPE Cray液冷超級電腦Peregrine系統中回收90%的熱水，並將其再利用作為能源系統整合設施（ESIF）辦公室和實驗室的主要熱源。

HPE的魁北克合作夥伴QScale也計劃利用此一技術支援農作物種植並解決糧食短缺問題。QScale希望利用液冷技術為當地將近100個足球場大小的溫室供電，預計每年可生產約8萬噸的番茄。

此外，挪威的合作夥伴Green Mountain計劃利用回收的熱水協助Hima魚場的養殖工作。Hima是全球最大的陸上鱒魚養殖場，採用循環水產養殖系統（Recirculating Aquaculture Systems，RAS）技術，循環利用純淨的山泉水。其目標為每年生產約8,000噸的優質Hima^®鱒魚，相當於2,200萬份晚餐。

四、更高的AI效能，更小的系統規模

隨著資料中心計劃採用未來的AI基礎架構，密度將成為資料中心是否有足夠空間容納先進AI解決方案的關鍵因素。相較於氣冷解決方案，液冷技術無需使用風扇和其相關設備，因此資料中心可以放置更少且更緊密排列的伺服器機架，從而最大化空間利用率或視需求擴充。以一萬台伺服器的資料中心為例，採用液冷伺服器可減少77.5%的空間需求³。此外，在五年內，液冷解決方案使用的機箱功率可減少14.9%，並提供比氣冷解決方案高出20.7%的每千瓦效能⁴。

AI 發展的基石：經驗與信任

在AI領域，選擇值得信賴的專家至關重要。HPE在液冷技術方面擁有超過50年的經驗和300多項專利，持續為客戶建造大型液冷系統，並確保這些系統能夠穩定運行多年。

此外，HPE的液冷解決方案也已被證實能夠實現更永續的運算。在過去兩年，HPE交付了全球十大最快系統中的四個，均為HPE Cray EX液冷超級電腦⁵。其中，美國能源部橡樹嶺國家實驗室的Frontier超級電腦是全球最快的超級電腦，成功突破百萬兆級（exascale）速度障礙，並在運行數萬個加速器仍表現穩定。儘管其效能規模如此驚人，Frontier仍榮獲全球最節能超級電腦的稱號⁶。由此可見，HPE在建造和高效運行運算密集型系統方面已建立專業優勢，並為AI發展做好充分準備，協助客戶利用全球最先進的冷卻解決方案展開AI之旅。

資料來源：

1. 國際能源署（IEA）2024年發布的報告：《2024年電力報告分析與2026年預測》

2. 根據Bridge Ocean Science Education Resource Center，水的比熱為4.186J/g-˚C，而空氣的比熱為1.005J/g-˚C

3.  HPE內部數據：以一個擁有1萬台伺服器的資料中心計算。假設電費為每千瓦0.105美元。氣冷情境為每機架18台伺服器，直接液冷（DLC）範例假設為每個48U機架80台HPE ProLiant XL225n伺服器。冷卻節能基於相同的HPE估算

4. 根據HPE於2023年4月的內部效能測試，針對氣冷式與直接液冷的HPE Cray XD2000進行比較。使用SPEChpc 2021、微型、MPI+OpenMP、64個等級、每台伺服器 14 個執行緒的基準估算結果（每個HPE Cray XD2000機箱）。研究連結

5. 2024年6月Top500名單：https://top500.org/lists/top500/2024/06/

6. 2022年6月Top500和Green500名單：https://top500.org/lists/top500/2022/06/highs/

關於Hewlett Packard Enterprise

慧與科技公司（NYSE: HPE）是邊緣至雲端的領導廠商，幫助企業從資料中萃取出有用的分析資料，加速創造業務成效。數十年來，HPE致力於打造創新未來與創新的生活與工作方式。憑著這些經驗，HPE開發出獨特、開放式且智慧化的技術解決方案，包含雲端、運算、高效能運算與AI、智慧邊緣、軟體、及儲存，並為雲端與邊緣提供一致的使用經驗，幫助客戶開發及設計新商業模式、導入新方法，並提升操作效能。如需更多資訊，請至www.hpe.com。