翔耀進軍AI算力服務市場，第4季將建置國內首個H200 AI運算中心

看準AI應用普及，對於AI模型訓練或推論的算力需求有增無減，國內提供電商服務的翔耀實業宣布與美超微、是方電訊、VMFIVE、無敵科技、數位無限等業者合作，將採用Nvidia H200、H100等GPU打造AI運算中心翔耀AICC（AI Computing Center），未來可望在全球超級電腦排名第15名，成為亞洲最快的AI算力中心之一。

翔耀實業董事長林以山今天（7/26）與美超微共同創辦人廖益賢進行AICC設備採購簽約儀式，翔耀AICC將使用是方電訊的LY2 AI資料中心大樓，借助是方電訊新建置的資料中心大樓，包括每平方公尺可承重2,000公斤，以及骨幹網路，搭配溫水冷卻技術、冷熱通道，資料中心的PUE值降到1.09。

林以山表示， AICC採用美超微的溫水冷卻技術，目標為打造綠色計算的新標竿，打造亞洲頂尖的AI算力中心，推動臺灣及亞洲的AI進步、產業升級。AICC建置共分為兩期，第一期部署128臺伺服器，分4階段建置，第一期算力達到46.54PFlops，預計可進入全球超級電腦排名20至25名之前，預期在2024年第四季先完成第1、2階段設備裝機，以64臺H200伺服器，提供國內外AI算力服務。第2期將擴展至256臺伺服器，總算力達93PFlops，為亞洲最快的AI算力中心之一。

林以山進一步表示，翔耀在新的團隊經營帶領下，以多年的電商技術及經驗累積，結合產業夥伴，正式切入AI算力開發及服務。未來將會複製AICC的成功經驗至亞洲其他國家，形成亞洲算力聯盟AICA（AI Computing Alliance），推動區域內AI技術交流及創新應用。

此外，翔耀今天也啟動公益計畫，未來AICC將保留一部分的算力，提供政府、企業、學校使用，翔耀也與高雄市經發局共同合作公益算力。

AICA聯盟推動AI軟體生態系統，包括開發工具、應用服務、數據資源的整合，推動其他國家AI開發者及企業加入，推動AI技術及應用的創新。

AICA聯盟執行長，同時也是VMFIVE創辦人的丁俊宏指出，在AI時代，AI算力不僅代表國力，也代表產業力，如果沒有及早因應AI算力需求，未來我們在AI產業應用發展上將落後於國際。AICC算力中心的建置目的在實現AI Taiwan，未來AI也是生產力，不只侷限於硬體，也應該結合軟體、應用服務。

丁俊宏也強調，AICC在設計架構上具有高度彈性，包括訓練、推論、記憶、散熱、高超速網路，運算中心考量不只是訓練大型模型的算力需求，還包括推論的算力需求，如何達到更高的能源效率。

國內首個H200 AI運算中心

此次翔耀宣布打造的AICC運算中心，規畫為2個SuperPOD叢集設計，超高密度算力部署方式，共可部署48個機架，支援256臺水冷式GPU伺服器，總功耗為3MW，PUE小於1.09。採用溫水冷卻，36GFlops/Watt，PUE設計可達到1.09。

單以一個SuperPOD叢集設計來看，包含24個機架，128個運算節點（1,024個GPU及256個CPU），搭配1PB全閃儲存及4PB物件儲存，以及1,024個400G IB NDR port超高速網路埠，功耗設計為1.3MW。

翔耀宣稱AICC將採用Nvidia H200 GPU，將是亞洲首座溫水冷卻H200 AI運算中心。不過，實際上依照AI訓練、推論等不同算力需求，以及實際上GPU產品市場供應情勢，AICC預期會混合H200、H100、GB200、B200等GPU。

未來組成亞洲AICA聯盟，除了鼓勵亞洲的區域性AI技術及應用發展，也支持AI新創，結合創業生態系統，進一步促成政府、產業加速AI轉型、培育AI人才、推動AI綠色算力發展。

鎖定企業及政府、娛樂產業及學研AI算力需求

丁俊宏表示，翔耀AICC未來將鎖定3方面的算力需求，首先是產業及政府機構的AI轉型，看準未來政府及產業在AI模型訓練、推理的大量算力需求；其次是娛樂產業方面，過去娛樂產業需要大量成本投入電腦特效，可由AI協助生成特效，或是複製人物的聲音、形象，這些都需要算力，現在影視娛樂產業對AI的算力需求浮現，未來AICC也會與相關的影視特效業者合作。

最後是與學校合作，他表示，學校有許多尚未商業化的AI模型及技術，需要算力協助其商業化發展，未來AICC會提供公有平臺，讓這些模型可打包商業化，提供API供各產業運用，協助學校研究與產業需求對接。

針對企業使用AI算力的數據安全性，丁俊宏表示，未來AICC提供兩種私有化的方案，第一種方案是企業購買算力，搭配完全隔離的專用儲存櫃，算力與儲存櫃之間使用高速網路連線，以物理的方式確保安全；第二種是企業可以向AICC購買GPU或以自己採購的GPU，放到AICC的機櫃托管，AICC等於建置環境，讓企業使用自己的GPU算力、數據，搭配高速網路進行計算，至於接下來的推理部分，由於為比較不敏感的資料，可使用AICC的算力服務。