在今年iThome CIO大調查中,有項企業對於生成式AI浪潮的準備度盤點,不論在資料面、技術架構、戰略、風險治理、人才的能力上,多數CIO都自評自家企業的準備遠遠不夠,只有1成企業在資料與戰略面有較高的準備度,GAI人才更是嚴重不足,只有4.6%的企業有足夠的人才儲備。
就連IT預算向來比其他產業高很多的金融業,也只有17%金融業者做好資料準備,8成金融CIO自認在技術面和戰略面的準備不夠高,治理與人才的準備度更低。這樣結果讓我相當驚訝,但又不意外。
生成式AI浪潮帶來的影響是根本性的,不只是AI技術面的突破,諸如辦公室生產力的提升、程式碼開發輔助、複雜基礎架構維運的優化,明顯讓企業看到成果,甚至改變了不少企業原本的作業模式。
全球零售龍頭Walmart,最近在一場財報法說會議中就透露,要維護超過4億款商品品項的目錄非常困難,後來,他們改用生成式AI來處理高達8.5億筆的資料。「沒有生成式AI,在相同時間內完成同樣作業,需要近100倍人力。」Walmart資深副總裁Stephanie Wissink直言。提高產品目錄資料品質的好處,不只可以改善商品搜尋和產品推薦,連倉儲管理、訂單履行到店員服務都能有不小的優化。
Walmart不只將生成式AI用於整理型錄資料,更有一款內部員工用的GAI助手,可以回答門市營運管理、庫存管理、保險與福利、薪資管理、員工訓練等數十種類問題。對外更打造了可提供超級個人化建議的GAI購物助手,也正在開發一款給第三方賣家的客服Chatbot。
不只Walmart,已有許多企業看好,也逐漸找出生成式AI的價值和影響,而不只是趕搭ChatGPT熱潮而已。根據我們今年的CIO大調查,高達3成的臺灣企業正在嘗試和驗證GAI技術的各種可行性和場景。
但是,生成式AI竄紅到現在,不過短短2年,科技巨頭們激烈競爭,紛紛投入龐大資本打造AI硬體設備,來加速大型語言模型的訓練,例如Meta用3千臺伺服器共2萬5千顆GPU的超大叢集,訓練4,050億參數的Llama 3模型,只花了54天,幾乎可以說只花了2個月就能改版。指標性大型語言模型幾乎是一年一次大改版,科技巨頭更推出各種GAI工具和服務,這些服務也隨著大型語言模型改版,而快速升級,甚至翻新。
生成式AI技術和工具的快速演化之快,企業很難有足夠資源和人力,跟上科技巨頭不斷加速的技術競賽,才剛學會一項GAI技術或工具,可能就開始出現新版本的預覽。這也難怪,今年大調查中,幾乎很少有CIO認為自己做好了面對生成式AI浪潮的準備。
就算準備不足,企業還是超想用生成式AI,高達4成企業要求CIO將AI創新列為年度目標,生成式AI就是關鍵。臺灣企業幾乎沒有能力自行從頭訓練LLM,必須善用科技巨頭的技術和服務,將各種雲端GAI技術和服務,串接到自家應用中整合,這又考驗企業的IT現代化程度和雲原生技術力。企業IT必須要能適應高速競爭下快速演化的生成式AI生態圈,以及GAI所連帶加速的既有技術領域,例如全新的GAI輔助開發模式。
對新技術的適應力(Adaptability)將會成為企業IT需要的新能力,快速掌握一項新技術的變化,甚至有能力快速套用到自家的開發流程中,整合到自家應用系統中,企業過去在敏捷開發,DevOps、雲原生技術架構的累積和能力,都會是企業更快速掌握新技術變動的基礎。
Walmart也有一套可以因應新技術不斷演化的作法,他們打造了一套內部用的生成式AI沙盒(GenAI Playground),提供多種GAI最新開發工具及測試環境,讓員工自己嘗試GAI,甚至提供了No-Code開發工具,連不熟技術的業務人員也能用GAI來創新,加入新技術的應用和創新的行列。不論GAI技術怎麼進化,Walmart這個做法,有機會進一步邁向全員創新,這是企業對新技術展現適應力最好的例子。
專欄作者
熱門新聞
2024-11-05
2024-11-05
2024-11-07
2024-11-04
2024-11-02
2024-11-02