CIO

在今年度re:Invent大會中，AWS資料與人工智慧資深副總裁Swami Sivasubramanian揭露一系列AI服務重大更新，像是SageMaker新添模型訓練算力自動配置功能、Bedrock推出百個模型的市集，還有能揪出重複性提示的快取管理功能和結構化資料檢索功能。

AI推論程式碼、CUDA runtime、PyTorch框架和10GB的LLM基礎模型，用Wasm編譯後的Bytecod檔，可以大幅縮小到數MB，比同樣功能的容器或VM映像檔，足足少了1千倍，這正是Wasm冷啟動速度可以超級快的原因。

Granite 3.0是輕量級的基礎模型，最大到8B參數量，採可商用的Apache 2.0開源授權，可部署在企業內部環境，也能在硬體資源較低的環境中執行，要瞄準企業落地部署需求

英國政府近期發布了國家支付願景報告，要協調各政府機關，建立一致性的支付產業發展方向；美國花旗集團近期宣布，將透過雲端技術和AI來支持數位轉型計畫，包括要將多個應用程式遷移至雲端，並運用雲端供應商的AI平臺發展生成式AI應用。

目前K8s有兩個重要的雲原生永續工具，讓企業可以追蹤IT能耗與碳排數據，再運用到K8s叢集的調度與管理上，達到碳排放量調整的效果

德鐵不僅利用平臺、數據和開發者賦能來發展綠色IT，還導入雲原生永續監控工具蒐集IT能耗和碳排數據進行資源調度，實現綠色數位轉型

今年八月，永豐銀行率先將生成式AI用在對外服務，推出一項名為「投資水晶球」的服務，透過彙整國內外超過500個媒體平臺數千篇最新報導，再依照臺灣、美國與中國三大市場，各別提供約1,000字的市場趨勢摘要，並在十月初新增了日本和印度市場報告。從這項應用起步，永豐銀行正逐步發展出一套全行共用的GAI平臺，提供行內各業務單位快速打造GAI應用。

耗時一年多，理賠醫起通2.0終於上線。第一波採用的醫院共有四家，分別是臺大、北榮、新光，和國泰醫院。