企業更需要新技術的適應力

在今年iThome CIO大調查中，有項企業對於生成式AI浪潮的準備度盤點，不論在資料面、技術架構、戰略、風險治理、人才的能力上，多數CIO都自評自家企業的準備遠遠不夠，只有1成企業在資料與戰略面有較高的準備度，GAI人才更是嚴重不足，只有4.6%的企業有足夠的人才儲備。

就連IT預算向來比其他產業高很多的金融業，也只有17%金融業者做好資料準備，8成金融CIO自認在技術面和戰略面的準備不夠高，治理與人才的準備度更低。這樣結果讓我相當驚訝，但又不意外。

生成式AI浪潮帶來的影響是根本性的，不只是AI技術面的突破，諸如辦公室生產力的提升、程式碼開發輔助、複雜基礎架構維運的優化，明顯讓企業看到成果，甚至改變了不少企業原本的作業模式。

全球零售龍頭Walmart，最近在一場財報法說會議中就透露，要維護超過4億款商品品項的目錄非常困難，後來，他們改用生成式AI來處理高達8.5億筆的資料。「沒有生成式AI，在相同時間內完成同樣作業，需要近100倍人力。」Walmart資深副總裁Stephanie Wissink直言。提高產品目錄資料品質的好處，不只可以改善商品搜尋和產品推薦，連倉儲管理、訂單履行到店員服務都能有不小的優化。

Walmart不只將生成式AI用於整理型錄資料，更有一款內部員工用的GAI助手，可以回答門市營運管理、庫存管理、保險與福利、薪資管理、員工訓練等數十種類問題。對外更打造了可提供超級個人化建議的GAI購物助手，也正在開發一款給第三方賣家的客服Chatbot。

不只Walmart，已有許多企業看好，也逐漸找出生成式AI的價值和影響，而不只是趕搭ChatGPT熱潮而已。根據我們今年的CIO大調查，高達3成的臺灣企業正在嘗試和驗證GAI技術的各種可行性和場景。

但是，生成式AI竄紅到現在，不過短短2年，科技巨頭們激烈競爭，紛紛投入龐大資本打造AI硬體設備，來加速大型語言模型的訓練，例如Meta用3千臺伺服器共2萬5千顆GPU的超大叢集，訓練4,050億參數的Llama 3模型，只花了54天，幾乎可以說只花了2個月就能改版。指標性大型語言模型幾乎是一年一次大改版，科技巨頭更推出各種GAI工具和服務，這些服務也隨著大型語言模型改版，而快速升級，甚至翻新。

生成式AI技術和工具的快速演化之快，企業很難有足夠資源和人力，跟上科技巨頭不斷加速的技術競賽，才剛學會一項GAI技術或工具，可能就開始出現新版本的預覽。這也難怪，今年大調查中，幾乎很少有CIO認為自己做好了面對生成式AI浪潮的準備。

就算準備不足，企業還是超想用生成式AI，高達4成企業要求CIO將AI創新列為年度目標，生成式AI就是關鍵。臺灣企業幾乎沒有能力自行從頭訓練LLM，必須善用科技巨頭的技術和服務，將各種雲端GAI技術和服務，串接到自家應用中整合，這又考驗企業的IT現代化程度和雲原生技術力。企業IT必須要能適應高速競爭下快速演化的生成式AI生態圈，以及GAI所連帶加速的既有技術領域，例如全新的GAI輔助開發模式。

對新技術的適應力（Adaptability）將會成為企業IT需要的新能力，快速掌握一項新技術的變化，甚至有能力快速套用到自家的開發流程中，整合到自家應用系統中，企業過去在敏捷開發，DevOps、雲原生技術架構的累積和能力，都會是企業更快速掌握新技術變動的基礎。

Walmart也有一套可以因應新技術不斷演化的作法，他們打造了一套內部用的生成式AI沙盒（GenAI Playground），提供多種GAI最新開發工具及測試環境，讓員工自己嘗試GAI，甚至提供了No-Code開發工具，連不熟技術的業務人員也能用GAI來創新，加入新技術的應用和創新的行列。不論GAI技術怎麼進化，Walmart這個做法，有機會進一步邁向全員創新，這是企業對新技術展現適應力最好的例子。