重點新聞（10/24～10/30）
紅帽 RHEL AI
紅帽推出1.2版RHEL AI，簡化LLM模型開發、測試和部署
RHEL AI 推出不到兩個月後，紅帽立刻發布新版本，加入幾項重要功能的改進，簡化LLM開發、測試和部署。
1.2版RHEL AI中，紅帽結合了IBM Research開源的Granite系列LLM模型、基於LAB方法的 InstructLab工具，以及透過開源 InstructLab AI 專案進行模型開發的協作方法。此外，該版本也增強了對硬體和主要雲端平臺的支援，現在支援 Lenovo ThinkSystem SR675 V3伺服器，提供預載入方案，方便使用戶更快部署。在技術預覽中，RHEL AI 1.2 還支援 AMD Instinct Accelerators，包括用於訓練和推理的MI300x GPU 以及用於推理任務的 MI210 GPU。
在主流雲端平臺支援方面，除了現有對AWS和 IBM Cloud的支援之外，用戶現在還能夠在 Azure和GCP上部署RHEL AI方案。
此外，ilab CLI工具現在可以自動偵測正在使用的硬體加速器類型，並相應配置InstructLab pipeline以實現最佳效能，從而減少所需的手動設定。在使用合成資料進行模型的多階段訓練時，ilab train工具現在採用了PyTorch的完全分片資料並行（FSDP）技術，以進行分散式訓練，從而縮短訓練時間。
Google Cloud 雲端營收
Google Cloud營收連兩季破百億美元，增長破3成
Google母公司Alphabet最近公布今年第三季財報，該季營收達 883 億美元，成長15%。其中，Google Cloud營收占了114 億美元，成長了 35%。已連續兩季突破百億美元大關，僅次於 Google Services，成為Alphabet第二大收入來源。
從營業利潤來看，Google Cloud本季淨利達到19.47億美元，遠高於去年同期的2.66億美元，顯示出 Alphabet今年在雲端服務方面的強勁盈利表現。
Alphabet指出，本季Google Cloud 的成長動能主要來自 AI 基礎設施、生成式 AI 解決方案和核心 GCP 產品的強勁增長。
英國保誠 雲端GenAI
英國保誠集團用雲端GenAI優化醫療保險理賠流程，提高理賠決策的準確性與效率
英國保誠集團近期開始用生成式AI優化醫療保險理賠流程，以提高人員在處理理賠決策中的準確性和效率。
保誠目前在亞洲及非洲的24個市場提供人壽、健康保險以及資產管理服務，擁有超過1,800萬名用戶。該集團首先在新加坡和馬來西亞導入GenAI模型，採用了GCP的MedLM基礎模型，分析與健康保險理賠提交的相關文件，例如診斷報告、處方和收據。
概念驗證測試顯示，在採用GenAI後，醫療保險理賠審核和評估的自動化效率提升了一倍，賠償決策的準確性也有所提高，有助於保險公司縮短理賠申請的處理時間。
保誠計畫未來3至4個月內，將GenAI應用於部分來自新加坡和馬來西亞的醫療保險理賠申請，以此協助人員加快理賠審批和支付的流程與作業效率。
英國政府 雲端GenAI
英國政府也擁抱GenAI，先從官網開始導入提高搜尋效率與準確性
GenAI快速竄起，不只企業大力擁抱，各國政府也紛紛跟進採用。例如英國政府最近決定導入雲端GenAI技術，並先從自家官網GOV.UK開始推起。
GOV.UK網站每天吸引數百萬訪客，提供各類政府資訊、服務和指導，如何讓民眾能快速找到所需資訊成為了重要關鍵。
為此，英國政府決定導入GenAI，，打造更有效率、對用戶更友善的政府網站。他們採用了Google Cloud的無程式碼生成式AI開發套件Vertex AI Search，建立新的搜尋引擎。這套搜尋引擎讓民眾可以使用自然語言進行搜尋，不僅更便利，還提升了搜尋結果的準確性。前期測試結果發現，點選搜尋結果使用者增加 14%，搜尋次數也有所減少。
IDC 亞太區企業雲端採用報告
IDC發布亞太區企業雲端採用報告，近九成企業擁抱多雲但雲端技能待提升
市場調查機構IDC近日發布亞太區企業雲端採用報告，調查了784家企業的雲端部署狀況及其面臨的挑戰，顯示多雲架構正逐漸成為主流趨勢
該報告指出，近90%的亞太企業現在不僅使用一家公有雲，還選擇將工作負載分散於多家公有雲平臺，甚至許多企業採用混合雲架構，其中，印度有85%的企業採用混合雲方案。
另一項重要發現是，越來越多企業將雲端應用延伸至邊緣端，其中52%的企業已開始使用分散式雲端架構來處理雲端與邊緣的應用需求。
IDC亞太區數位基礎架構與 IT服務副研究總監Pushkar Shanbhag表示，隨著AI需求快速增長，混合雲架構在滿足企業私有AI的數位主權需求越來越重要，加上公有雲提供的驗證機制和技術創新，將加速企業的雲端採用。
IDC還提到，儘管許多企業已採用多雲策略，但維運團隊仍無法完全掌握雲端維運和管理方式。IDC指出，亞洲企業上雲的常見挑戰，包括無法實現預期價值，並導致成本超支、效能不佳、經濟效益低、進度延誤、多供應商管理問題等。
SAP 雲端營收
商業AI需求增長！SAP最新一季雲端營收成長25%達43億歐元
雲端ERP大廠SAP近日公布最新一季財報，該季營收達到84.7億歐元，成長9%。其中，雲端營收更成長25%，達到43.5億歐元，至於雲端與軟體營收合計則成長11%，達到74.3億歐元。
在雲端產品銷售方面，Cloud ERP Suite套件的營收就占了36.4億歐元，與去年同期相比成長34%，相比之下，2023年該季僅占了27.1億歐元，顯示出SAP近年來雲端產品布局上的大規模投入已取得顯著成效。
SAP執行長Christian Klein指出，除了雲端產品需求強勁外，商業AI需求的快速增長也是推動雲端營收成長的重要因素。
IBM Granite模型
IBM的LLM模型再添新升力軍，推出Granite系列第三版
不讓其他公雲巨頭專美於前，IBM近日開源釋出新的LLM模型Granite 3.0，這是Granite系列推出第三個版本。
第三代Granite模型，包含有8B與2B個版本，分成4大用途類型，包括密集及通用型LLM、輸出－輸入護欄（guardrail）的模型、具有低延遲的專家混合（mixture of expert，MoE）模型，以及時間序列（Time Series）模型，可以整合到各種企業環境或工作流程中，用於支援RAG、分類、重點摘要、實體擷取等任務。
IBM也公開以Granite為底層的程式助手Code Assistant，可在watsonx.ai平臺用以開發和部署AI應用及代理程式。目前Granite 3.0可在Hugging Face下載。
圖片來源／保誠
更多Cloud動態
1.搭載自製ARM 架構處理器，微軟正式推出Azure Cobalt 100執行個體
2.GCP推出企業版程式助手Gemini，可分析本機程式碼庫並支援程式碼自訂功能
3.Google Cloud推第6代TPU為基礎的新版Hypercomputer
資料來源：iThome整理，2024年10月
熱門新聞
2024-10-30
2024-10-30
2024-10-27
2024-10-29
2024-10-23
2024-10-29
