台智雲AI 2.0一站式服務 大型語言模型新利器

近期大型語言模型（Large Language Model，LLM）及生成式AI（Generative AI）的快速發展，開啟新世代AI新範疇。台智雲領先全台宣布成為第一個成功建置1,760億個參數的BLOOM（BigScience Large Open-science Open-access Multilingual Language Model）大模型，推出「AI 2.0大算力顧問服務」一站式整合方案，整合新世代AI的基礎建設、開發環境及專業技術團隊服務。企業透過台智雲服務，即刻投入AI應用研發，進入AI 2.0世代。

台智雲技術長陳忠誠指出：「AI技術結合大型語言模型已是產業科技發展的趨勢，企業要單獨執行LLM專案的難度極高，利用一站式AI 2.0大算力顧問服務，可更專心投入研發專案，大幅降低進入門檻。台智雲AIHPC高速運算平台結合技術資源團隊，以全新的服務模式，提供完整的AI外部支援，現今已有高科技研發製造、金融和零售領域企業正在洽談合作中。」

以台智雲完成的BLOOM大模型成果為例，資料集包含46種人類語言、13種程式語言，參數量達到1,760億個，整體資料量高達1.5TB以上，運用了840個GPU做跨節點（node）訓練，除了效能逼近線性理論值外，也可收斂訓練結果，若欲增加效能，亦能用線性的方式擴容（scale out），增加GPU來提升平行運算能力。此外，企業自行推動LLM專案，需熟悉分布式訓練架構、建置AIHPC高速運算系統、理解微調技術（fine-tune）、大模型推論（inference），布建門檻極高，若使用「AI 2.0大算力顧問服務」，可快速降低投入時間、技術成本、開發風險、硬體設備和人力投資等成本，打造自有生成式AI應用。

• 台智雲「AI 2.0大算力顧問服務」資訊：https://tws.twcc.ai/ai-llm

[關於華碩]

華碩為美國《財富》雜誌評比「世界最受推崇企業之一」，並榮登美國《富比士》雜誌「全球最受信賴企業排行榜」及英國《路透社》「全球科技100強」。產品類別橫跨主機板、顯示卡、筆記型電腦、智慧手機、螢幕、路由器及全方位的科技產品解決方案，並積極拓展電競產品及開創AIOT新領域的各種應用。華碩致力追尋無與倫比的科技創新，為全球使用者創造體貼人心的智慧生活與無所不在的幸福感，以成為數位新世代備受推崇的科技創新領導企業為品牌願景。華碩全球員工數約15,000人，擁有世界級研發菁英超過5,000人，產品行銷全球70多個國家，年營業額超過100億美元，每年獲獎數眾多，2018年平均每日獲得超過11個獎項，產品創新、設計及品質皆備受全球市場肯定。

關於「華碩 AI 雲創園區」

2022 年正式啟用的華碩 AI 雲創園區，坐落於倚山傍水的淡水河畔，有超過 3000 坪廣大的發展腹地，可遠眺八里左岸、紅樹林生態等有別於城市風情的自然景致。內部採以開放式的工作環境，鼓勵團隊互動，激發能量創新。華碩透過 AI 雲創園區整合華碩雲端、台智雲、華碩健康及 AI 與雲端生態圈新創團隊，期許成為台灣最具技術創新、應用創新、商業創新的大型基地，並打造 5G、區塊鏈、醫療等 Colab 環境，偕同夥伴推進創新加速器。