Cloud周報第213期：英國政府採用生成式AI技術提升官網搜尋效率與準確性

重點新聞（10/24～10/30）

紅帽  RHEL AI 

紅帽推出1.2版RHEL AI，簡化LLM模型開發、測試和部署

RHEL AI 推出不到兩個月後，紅帽立刻發布新版本，加入幾項重要功能的改進，簡化LLM開發、測試和部署。

1.2版RHEL AI中，紅帽結合了IBM Research開源的Granite系列LLM模型、基於LAB方法的 InstructLab工具，以及透過開源 InstructLab AI 專案進行模型開發的協作方法。此外，該版本也增強了對硬體和主要雲端平臺的支援，現在支援 Lenovo ThinkSystem SR675 V3伺服器，提供預載入方案，方便使用戶更快部署。在技​​術預覽中，RHEL AI 1.2 還支援 AMD Instinct Accelerators，包括用於訓練和推理的MI300x GPU 以及用於推理任務的 MI210 GPU。

在主流雲端平臺支援方面，除了現有對AWS和 IBM Cloud的支援之外，用戶現在還能夠在 Azure和GCP上部署RHEL AI方案。

此外，ilab CLI工具現在可以自動偵測正在使用的硬體加速器類型，並相應配置InstructLab pipeline以實現最佳效能，從而減少所需的手動設定。在使用合成資料進行模型的多階段訓練時，ilab train工具現在採用了PyTorch的完全分片資料並行（FSDP）技術，以進行分散式訓練，從而縮短訓練時間。

Google Cloud    雲端營收

Google Cloud營收連兩季破百億美元，增長破3成

Google母公司Alphabet最近公布今年第三季財報，該季營收達 883 億美元，成長15%。其中，Google Cloud營收占了114 億美元，成長了 35%。已連續兩季突破百億美元大關，僅次於 Google Services，成為Alphabet第二大收入來源。

從營業利潤來看，Google Cloud本季淨利達到19.47億美元，遠高於去年同期的2.66億美元，顯示出 Alphabet今年在雲端服務方面的強勁盈利表現。

Alphabet指出，本季Google Cloud 的成長動能主要來自 AI 基礎設施、生成式 AI 解決方案和核心 GCP 產品的強勁增長。

英國保誠   雲端GenAI

英國保誠集團用雲端GenAI優化醫療保險理賠流程，提高理賠決策的準確性與效率

英國保誠集團近期開始用生成式AI優化醫療保險理賠流程，以提高人員在處理理賠決策中的準確性和效率。

保誠目前在亞洲及非洲的24個市場提供人壽、健康保險以及資產管理服務，擁有超過1,800萬名用戶。該集團首先在新加坡和馬來西亞導入GenAI模型，採用了GCP的MedLM基礎模型，分析與健康保險理賠提交的相關文件，例如診斷報告、處方和收據。

概念驗證測試顯示，在採用GenAI後，醫療保險理賠審核和評估的自動化效率提升了一倍，賠償決策的準確性也有所提高，有助於保險公司縮短理賠申請的處理時間。

保誠計畫未來3至4個月內，將GenAI應用於部分來自新加坡和馬來西亞的醫療保險理賠申請，以此協助人員加快理賠審批和支付的流程與作業效率。

英國政府  雲端GenAI  

英國政府也擁抱GenAI，先從官網開始導入提高搜尋效率與準確性

GenAI快速竄起，不只企業大力擁抱，各國政府也紛紛跟進採用。例如英國政府最近決定導入雲端GenAI技術，並先從自家官網GOV.UK開始推起。

GOV.UK網站每天吸引數百萬訪客，提供各類政府資訊、服務和指導，如何讓民眾能快速找到所需資訊成為了重要關鍵。

為此，英國政府決定導入GenAI，，打造更有效率、對用戶更友善的政府網站。他們採用了Google Cloud的無程式碼生成式AI開發套件Vertex AI Search，建立新的搜尋引擎。這套搜尋引擎讓民眾可以使用自然語言進行搜尋，不僅更便利，還提升了搜尋結果的準確性。前期測試結果發現，點選搜尋結果使用者增加 14%，搜尋次數也有所減少。

IDC    亞太區企業雲端採用報告  

IDC發布亞太區企業雲端採用報告，近九成企業擁抱多雲但雲端技能待提升

市場調查機構IDC近日發布亞太區企業雲端採用報告，調查了784家企業的雲端部署狀況及其面臨的挑戰，顯示多雲架構正逐漸成為主流趨勢

該報告指出，近90%的亞太企業現在不僅使用一家公有雲，還選擇將工作負載分散於多家公有雲平臺，甚至許多企業採用混合雲架構，其中，印度有85%的企業採用混合雲方案。

另一項重要發現是，越來越多企業將雲端應用延伸至邊緣端，其中52%的企業已開始使用分散式雲端架構來處理雲端與邊緣的應用需求。

IDC亞太區數位基礎架構與 IT服務副研究總監Pushkar Shanbhag表示，隨著AI需求快速增長，混合雲架構在滿足企業私有AI的數位主權需求越來越重要，加上公有雲提供的驗證機制和技術創新，將加速企業的雲端採用。

IDC還提到，儘管許多企業已採用多雲策略，但維運團隊仍無法完全掌握雲端維運和管理方式。IDC指出，亞洲企業上雲的常見挑戰，包括無法實現預期價值，並導致成本超支、效能不佳、經濟效益低、進度延誤、多供應商管理問題等。

SAP   雲端營收  

商業AI需求增長！SAP最新一季雲端營收成長25%達43億歐元

雲端ERP大廠SAP近日公布最新一季財報，該季營收達到84.7億歐元，成長9%。其中，雲端營收更成長25%，達到43.5億歐元，至於雲端與軟體營收合計則成長11%，達到74.3億歐元。

在雲端產品銷售方面，Cloud ERP Suite套件的營收就占了36.4億歐元，與去年同期相比成長34%，相比之下，2023年該季僅占了27.1億歐元，顯示出SAP近年來雲端產品布局上的大規模投入已取得顯著成效。

SAP執行長Christian Klein指出，除了雲端產品需求強勁外，商業AI需求的快速增長也是推動雲端營收成長的重要因素。

 IBM     Granite模型 

IBM的LLM模型再添新升力軍，推出Granite系列第三版

不讓其他公雲巨頭專美於前，IBM近日開源釋出新的LLM模型Granite 3.0，這是Granite系列推出第三個版本。

第三代Granite模型，包含有8B與2B個版本，分成4大用途類型，包括密集及通用型LLM、輸出－輸入護欄（guardrail）的模型、具有低延遲的專家混合（mixture of expert，MoE）模型，以及時間序列（Time Series）模型，可以整合到各種企業環境或工作流程中，用於支援RAG、分類、重點摘要、實體擷取等任務。

IBM也公開以Granite為底層的程式助手Code Assistant，可在watsonx.ai平臺用以開發和部署AI應用及代理程式。目前Granite 3.0可在Hugging Face下載。

圖片來源／保誠

 更多Cloud動態 

1.搭載自製ARM 架構處理器，微軟正式推出Azure Cobalt 100執行個體

2.GCP推出企業版程式助手Gemini，可分析本機程式碼庫並支援程式碼自訂功能

3.Google Cloud推第6代TPU為基礎的新版Hypercomputer

資料來源：iThome整理，2024年10月