Cloud周報第212期：SAP推出生成式AI助理Joule的擴展功能，增加可自訂技能的協作型AI代理

重點新聞（09/26～10/02）

生成式AI助理    SAP

SAP擴展生成式AI助理Joule加入新功能，增加可自訂技能的協作型AI代理

在近日舉行SAP TechEd技術大會，SAP宣布將擴展生成式AI助理Joule的功能，包括推出可自訂技能的協作型AI代理，未來可以結合跨業務領域的專業知識，透過協作完成複雜的工作流程。

透過Joule的新功能，企業可以根據需求自訂協作型AI代理的不同技能，以應對各類業務需求。SAP舉例，在糾紛解決管理上，協作型AI代理可以用來分析並處理爭議情況，例如發票不正確、遺失、未分配的信用以及被拒絕或重複付款等問題。在財務會計領域，則能自動化帳單支付、發票處理和帳本更新，簡化關鍵財務流程，同時快速解決不一致或錯誤。

此外，SAP 也為開發人員推出了一系列新產品，例如在SAP Build推出生成式 AI功能，可以提供程式碼解釋和文件搜尋，縮短Java和avaScript開發人員的開發，還時間，此外，增加可擴充的精靈功能，開發人員從雲端版SAP S/4HANA就能對SAP Build進行存取，同時ABAP 開發人員也能從SAP Build 存取 ABAP Cloud 開發工具。

 Azure OpenAI     GPT-4o 

微軟Azure OpenAI推出低延遲GPT-4o模型公開預覽，可支援即時語音與音訊互動

就在OpenAI發表低延遲的GPT-4o即時API服務後，微軟隨後更新Azure OpenAI服務，推出了低延遲GPT-4o模型API公開預覽，支援即時語音與音訊互動，適用於即時互動的場景，如客戶支援、語音助理和即時語音翻譯。

GPT-4o即時API是Azure OpenAI的GPT-4o模型系列之一，透過API，企業可以直接將其整合到內部應用程式，支援低延遲語音輸入和輸出，打造出更自然的語音對話應用程式。該模型提升語音回應速度，減少延遲並提供更流暢的互動體驗。API支援多語言對話，可廣泛應用於客服助理、內容創作和即時音訊翻譯等領域。

該版本的GPT-4o模型初期僅在美國東部和瑞典中部地區推出。目前，德國Bosch已採用此模型，用於汽車環境中的虛擬實境培訓，能接收語音指導指令。

GCP    機密運算  

Google Cloud更新機密運算產品線，推出C3和C3D兩款VM機密運算服務

Google Cloud近日更新機密運算產品線，正式推出C3和C3D兩款Google Cloud機密VM（Confidential VMs）服務，前者採用的處理器是英特爾第4代Intel Xeon處理器，內建TDX虛擬機硬體隔離技術，後者則是AMD第4代EPYC，內建SEV安全加密虛擬化技術，藉此強化對運算基礎架構的安全防護。

相較前一版本，新的機密運算執行個體服務C3，採用AMX指令集擴展架構內建CPU加速，可加速AI和ML工作負載。此外，利用TDX技術，新版本上也能整合通用加密運算平臺Anjuna Seaglass與Google Cloud機密VM。

另一方面，採用了AMD SEV技術的C3D，不只使用硬體的記憶體加密來加強資料機密性，還可以在性能更強的硬體上執行，並能結合Google Titanium硬體提升處理效能。

目前C3D執行個體服務已推出，而C3則先在亞洲、美國和歐洲部分區域推出。

Azure  虛擬機器 

配備141GB的HBM記憶體，Azure最新AI超級運算最佳化虛擬機器亮相

微軟 Azure 近日推出 AI 超級運算最佳化虛擬機器 ND H200 v5，具備更大 HBM 容量，支援更高訓練樣本數，並提升GPU利用率與吞吐量，可用於大型語言模型  （LLM）和小語言模型 (SLM) 的推理工作負載。

與上一代ND H100 v5 相比，Azure ND H200 v5配備8個Nvidia H200 Tensor Core GPU，不只運算效能更強，HBM記憶體也增加了 76%，達到141GB，頻寬提升 43%達到4.8 TB/s，能更快地存取模型參數，降低應用程式延遲。新款VM還能在單一VM的記憶體中存取更複雜的LLM，而不需要分散在多個VM上執行。

此外，在設計上，ND H200 v5可以更有效地管理模型權重、鍵值快取和訓練樣本的GPU記憶體，提升 GenAI 推理工作負載的吞吐量、延遲及成本效率。微軟指出，該版本在執行LLAMA 3.1 405B模型的推理工作時，吞吐量比前一代提升 35%。

ND H200 v5也預先整合多項服務，包括 Azure Batch、Azure Kubernetes 服務、Azure OpenAI 服務和Azure機器學習，讓企業可快速部署應用。

Vodafone   Google Cloud 

英國電信商Vodafone與Google擴大聯手，未來10年將在非洲和歐洲大推雲端服務和GenAI

英國跨國電信商Vodafone與Google近日宣布將簽署一項總值10億美元、為期 10 年的戰略合作協議，在此合作下，Vodafone將為非洲和歐洲客戶提供Google cloud雲端服務和Gemini生成式服務，進一步推動這些地區的數位轉型與應用創新。

Vodafone和Google合作的首要重點是幫助企業和消費端行動用戶導入最新的硬體，如Google Pixel設備，和AI及雲端應用程式在內的數位技術。

Vodafone計畫2025年先在歐洲少部分國家推出Google One AI Premium 訂閱計畫，讓企業用戶將能夠使用Google生成式 AI 平臺Gemini Advanced，應用於內部系統，並提供視覺、文字及音訊等功能支援。

在安全上，Vodafone將利用Google雲端安全營運平臺為其企業客戶開發新的雲原生安全服務。

圖片來源／微軟

 更多Cloud動態 

1.本土車廠納智捷採用Google生成式AI模型Gemini打造AI智能客服系統

2.微軟雲端資料庫服務AlloyDB的ScaNN向量索引功能現已推出，支援最多10億個向量執行搜索

3.甲骨文將砸65億美元在馬來西亞擴大投資雲端運算與AI

4.Arduino Cloud雲端物聯網平臺正式上架AWS市集

資料來源：iThome整理，2024年10月