日月光半導體首座AI節能機房年底將啟用，應對每年1.2倍增長的AI運算需求

日月光半導體年底將啟用首座全新的水冷散熱資料中心，這座新機房不僅將成為PUE低於1.2的節能機房，還是一座擁有強大AI運算能力的AI節能機房，目標是要能應付每年1.2倍增長的AI運算需求，以因應未來兩年不斷增長的AI應用及LLM（大型語言模型）發展所需。

日月光很早展開了數位轉型，朝向智慧工廠來轉型，2018年開始導入AI，逐步將AI應用於製程中，提升良率與生產效能。日月光同年建造第一座關燈智慧工廠，並在接下來4年內將關燈工廠增加到36座。隨著AI應用日益成熟，日月光在2021年建構IAI（Industry AI）平臺，大力推動AI全民化應用，進一步將AI應用從內場域製造推向組織內部，從智慧資安、品質檢驗、智慧診斷，到智慧設計、參數最佳化以及智慧營運等領域。

日月光半導體高雄廠副總李政傑表示，目前，日月光的AI應用主要集中在製造端，結合深度學習和大數據，搭配自動化機器人技術，提升生產效能。此外，AI也應用於廠務節能減碳等環保項目。

近來火紅的生成式AI技術，日月光也開始導入，主要應用於兩方面，一是協助行政單位處理大量文書和影像，減少人力負擔；另一方面，在工程領域中，利用生成式AI生成多樣的研發樣本，幫助工程師提高研發新原型的成功率。

儘管AI需求呈現指數型成長，對機房運算需求也越來越大，可是，運算增長同時也帶來溫室氣體排放的增加，光靠現有機房設計已經難以應付其需求而必須採用新作法。

尤其近幾年，ESG永續發展已成為了企業必須重視的重要議題，日月光自己承諾2030年辦公室淨零，2050年生產製造據點淨零的目標。為了每年需降低5～10％溫室氣體排放，如何兼顧AI需求和ESG永續發展，成了日月光IT面臨的重要挑戰，所以日月光決定打造新一代水冷散熱IT機房，來應對這項挑戰。

日月光即將在高雄啟用的AI新機房，將採用Supermicro的水冷式散熱技術，由中華系統整合進行布建，在這座新機房中引進新一代水冷AI伺服器及節能技術。

李政傑表示，新機房導入水冷式散熱設計，不僅利用伺服器本身的水冷機制，讓冷水通過主機板快速帶走熱能，取代過去氣冷式機房的冷熱通道散熱方式，此外，機櫃設計上建立水冷散熱機制，整合了散熱板、冷卻分配單元（CDU）、冷卻分配分流管（CDM）以及搭配冷卻塔，可幫助其降低機房溫度、耗電量以及整體總耗能。

李政傑指出，與傳統氣冷式機房相比，新一代節能機房採用水冷散熱技術後，能耗可降低20%以上，預期PUE值將從1.51下降至1.2以下。這樣不僅節能，也有助於減少碳排放。

在這座AI機房中，未來將部署多臺AI伺服器機櫃系統，根據Supermicro提供的硬體規格，每臺AI伺服器主機內搭載了2個32核Intel CPU與8個Nvidia H100 GPU。李政傑表示，這座新機房啟用後目標是滿足年增113%的AI算力需求，未來將開發新的AI應用，用於產品生產、工程研發以及營運上，加速推動智慧製造。