【iThome 2024 CIO大調查系列3｜各產業上雲趨勢1】GAI成企業上雲新助力，領先企業更大幅加碼4成雲端投資

各產業今年掀起了生成式AI應用浪潮，2成企業CIO更認為，GAI在今年就開始對所屬企業和產業帶來了重大的影響。

不過，生成式AI快速爆紅更不斷演化，多數企業對相關技術架構的掌握能力，嚴重不足，從今年CIO大調查中，就算是公認IT資源最豐沛的金融業，對於生成式AI技術架構的準備程度偏低，甚至許多金融CIO都自認還沒達到中等水準。整體產業的準備程度也大約是低度準備程度。尤其是一般製造業和高科技製造業，是技術架構準備度最不足的兩個產業。

可是，今年破4成CIO，被賦予了用AI創新產品和服務的目標，甚至醫療和政府學校更是高達5成6資訊主管列為年度目標，許多企業看上這一波生成式AI浪潮的潛力，但，企業對生成式AI的技術能力還不足，要如何靠科技創新，就得想辦法站在巨人的肩膀上。直接導入雲端巨頭提供的GAI技術和ChatGPT類服務，是最快的方式。

從今年大調查也可以看到，直接採用現成的ChatGPT類應用，是今年企業新興科技採用清單中排名第一，這最多企業想採用的新興科技項目，高達4成企業今年要導入，超越了去年新興技術採用率第一的RPA技術。

雲端巨頭提供的不只有現成的ChatGPT類服務，相關GAI開發工具和服務，在今年更加成熟了，不論是微軟、Google雲端或是AWS，從去年底到今年中相繼展開的年度產品大會，生成式AI產品線都是主角，而且產品步局涵蓋了大型語言模型進展、GAI應用開發到部署各階段。大型語言模型的進展，不只百花齊放，更走出了商用模型的封閉圈，科技巨頭們開始爭相釋出推論能力媲美商用模型的開源GAI模型，企業可以更多選擇，也能在自家本地端環境部署自己的大型語言模型，但這也代表，企業需要更多算力來支持GAI模型的調校和優化。

企業積極發展GAI的需求，不論是採用SaaS形式的GAI服務，或是自行訓練大型語言模型，都讓企業更需要借重雲端龐大的算力和各種基礎架構服務。就算要在本地端部署自用的大型語言模型，最常見的作法是，企業需要借重雲端來進行微調或訓練，再部署到本地端來提供推論。這股生成式AI浪潮，反過來帶動了企業上雲的速度。更有好幾位資訊主管直言，生成式AI是企業上雲的殺手級應用。  

所以，生成式AI浪潮來襲的第二年，企業上雲的動力也大幅提高。在今年CIO大調查可以看到，在8大企業IT投資重點中，雲端預算是今年成長幅度最多的一項，整體產業平均比去年增加了3成預算，創下歷年雲端預算成長率的新紀錄。

不只如此，在臺灣大型企業中，更有一群早已開始運用生成式AI技術的GAI領先企業，這群領頭羊還進一步加碼上雲，他們今年雲端投資的成長率更達到4成，遠高於整體雲端預算成長率。GAI領先企業內部AP上公雲的比例，也比整體產業更高，預計在2024年達到27.4%，大約是內部每三套系統就有一套上公雲。整體產業約是每五套才會有一套系統上雲。從今年這些調查數據，明顯可以看到生成式AI成了臺灣企業上雲的新趨力。

技術選擇上，採用現成雲端巨頭提供的ChatGPT類服務是首選，但導入作法和步調上，企業仍各有不同。根據今年CIO大調查，在GAI採用作法上，25.6%企業直接使用ChatGPT來提高人員生產力，有些是用來輔助程式開發，有些企業則用於行銷。又以醫療業和服務業，最積極直接採用現成的ChatGPT類服務來強化員工生產力。平均每三家醫院，就有一家今年開始這樣做，服務業者也高達3成多。

另外，也有2成3企業要將內部系統串接到GAI模型或ChatGPT類服務，讓這些GAI模型和服務可以處理企業內部的資料。不少企業實例就是用來串接企業內部知識管理系統，用內部專業知識和領域知識的文件或資料，來微調大型語言模型，或是使用RAG模式來提供專業知識的自然語言檢索能力，來打造一個知識性的AI小助手。醫院是各產業中最積極將GAI技術或ChatGPT類服務整合到內部系統的產業，高達41.1%的醫療業者今年要這樣做。

像奇美醫院去年就開始將生成式AI技術嵌入到原有以病人為中心的臨床照護流程中，發展出了各種不同職能角色的AI助手，例如去年11月發表的A+智能護理師，不到5分鐘，就可以摘要出護理師負責病患一整天的護理記錄，再由真人護理師把關核對正確性，大大降低了交班負擔。奇美後續還發展出了近十種AI助手，輔助彙整各醫事職類的醫療報告，獲釋病患資料調閱和用藥風險清單彙整等工作。醫療業是六大產業中，最積極擁抱生成式AI的產業。

更有1成企業，嘗試在對外服務和產品中整合GAI，這又以不涉及個資或敏感資料的顧客服務較多，例如自動生成分析報告或摘要每日重點新聞等。不過，也有一成願意投入大筆資源的企業，嘗試運用開源LLM來訓練自己的客製化版本，想要發展出適合自己和所屬產業的專用大型語言模型，不只是用於內部需求，也想進一步將自製的大型語言模型，變成發展自家生態圈的利器，又以擁有較多機敏資料或個資的金融業和醫療業，有較多的企業想要用開源LLM來自行訓練，再部署於本地端來避免資料外洩的風險。已有知名IC設計巨頭發表了自行客製化的LLM，也有金控已展開專用LLM的微調訓練。

除了已開始積極採用生成式AI的企業，另有一群審慎看待這項技術導入的企業，今年仍有高達35.8%的企業還在評估各種生成式AI的技術和工具，另外有28.4%的企業則先成立種子團隊進行小規模嘗試，這些企業沒有累積足夠的經驗和成效之前，不會輕易擴大規模來採用。

隨著雲端巨頭積極投入和發展，生成式工具鏈今年逐漸達到了商用等級的成熟度。站在雲端巨頭的科技肩膀，臺灣大型企業今年更迫切地想用生成式AI展開創新。

 問卷說明  iThome CIO暨資安大調查執行期間從2024年2月15日到3月15日，對臺灣大型企業、歷屆CIO大調查企業、政府機關和大學的IT與資安主管，進行線上問卷，有效問卷422家。填答者中，企業CIO則占了71.8%，企業資安最高主管則占了62.8%。產業分布上，一般製造業17.8%、高科技製造業22.7%、服務業23.7%、金融業12.8%、醫療業13.3％、政府與學校則占了9.7%。

 相關報導