Cloud周報第198期：全球最大期貨期權交易所CME集團揭3年上雲經驗，更要朝向多雲混合雲發展

重點新聞（04/11～04/17）

 Gemini     雲端服務 

Google雲端服務正式整合生成式AI助手Gemini

近日，Google不僅在生產力工具中結合了生成式AI助手Gemini，更將其應用在自家雲端服務中，推出了專屬的生成式AI助手，用於輔助軟體開發、資安、應用生命周期、資料分析、BI以及資料庫等領域。

舉例來說，現在在BigQuery資料倉儲中，資料分析人員可以自然語言方式向Gemini提需求進行資料準備、查找、分析及治理，此外，在Looker中的Gemini助手，現在能透過對話存取企業商業數據，同時也能跨Workspace應用進行存取。目前這些Gemini功能大多處於預覽階段。

在應用開發方面，Google宣布程式撰寫AI助手Gemini現已達企業級的安全性和可靠，甚至可支援使用最新的Gemini 1.5 Pro，意味著，可以在程式庫中執行大規模程式碼檢索、除錯及測試，加快企業老舊系統現代化改造。Google還推出名為Gemini Cloud Assist的AI雲端助手，可以更有效率地管理整個應用生命周期，提供包括目標設計、安全、維運指導、故障排除等輔助功能。另外還能提供效能和成本優化的建議。

芝商所     數位轉型   

全球最大期貨期權交易所CME集團為加速轉型積極上雲，更要發展多雲混合雲架構

芝商所集團（CME Group）是世界上最大的期貨期權交易所，從2021年為加速轉型展開上雲旅程。該集團資訊長Sunil Cutinho近日在一場活動中分享其集團遷雲的經驗。

芝商所集團旗下四大交易中心，芝加哥商品交易所、芝加哥期貨交易所、紐約商業交易所及紐約商品交易所。每天的交易量超過140億件，且要求交易處理時間得縮短至微秒等級。

決定上雲後，CME資訊團隊在15個月內建立雲端環境，並嘗試將旗下交易所少數應用搬上雲端。Sunil Cutinho強調，遷雲過程並不容易，需要全面考慮前期規劃、上雲優先順序以及遷移後的效益和安全性。為此，他們還建立一個沙箱環境，來模擬雲端執行環境，來確保這些應用程式轉移到雲端生產環境中，可以做到跟本地部署一樣的安全控管和資料保護。

CME目前採用多雲混合雲架構，不僅建置了私有雲和採用Google公雲，還將新增微軟公雲，做為該集團第三朵雲。

他指出，應用系統遷雲的好處，一來是可以大幅提升產品交付的速度，而且遷雲過程中能對於老舊應用程式進行重構，朝向現代化應用轉型。二來，還能幫助集團建立自己數據平臺，以便從這些資料中挖掘出有價值的發現，幫助公司加速決策。

CME迄今尚處於雲端轉型的旅程中，Sunil Cutinho也指出，一旦取得主管機關的批准，將在年底前把清算、監管和部分商業智慧服務上雲。

生產力工具    Workspace  

Workspace再添生力軍！Google推出影片創作AI助手Vids

在今年Next大會中，Workspace推出了全新的AI影片創作生產力服務Google Vids。這是一個專為工作者提供影片創作的AI助手，讓即使是不熟悉影片創作的行銷人員也能快速製作出各種影片內容，用於產品行銷、人才培訓、團體慶祝等活動。

不過與OpenAI的短片生成AI模型Sora不同，Google Vids雖然採用了Gemini模型，僅根據使用者描述從影片資料庫中提取相關影片素材，供使用者從中挑選適合素材製作分鏡腳本，還無法依提示文字自動生成完整的影片內容。

在Vids中，還提供多種影片樣版，能夠快速組合出想要呈現的內容風格，逐步完成影像的製作。此外還可以根據不同場景自訂背景音和加入專屬配音。預計6月推出實驗性功能。

GenAI    微軟   

微軟推出多項GenAI安全工具，能防止惡意提示、提供幻覺檢測

當許多企業開始導入GenAI應用，模型輸出正確性、資料隱私和安全問題，成了企業關注的重點。微軟近日宣布將在Azure AI Studio中推出了多項工具，來改善或解決這些問題。目前已提供部分功能的測試。

像在提示審核過濾機制上，微軟推出了提示防護罩（Prompt Shields）工具，能即時偵測並阻斷基礎模型接收到惡意提示。此外，還推出了真實性（Groundedness）偵測工具，能偵測帶有不真實內容的文字輸出結果，以減少幻覺，讓模型輸出的結果能貼近企業實際應用需求。

另外，微軟還將加入安全系統訊息範本，讓AI應用開發人員能建立安全的系統訊息，導引模型使用訓練資料及正確的行為。

對於鎖定AI應用進行的越獄攻擊、產出暴力、自殘、色情、仇恨、歧視內容，則有推出越獄評估工具來協助判斷。還有AI應用風險與安全監控工具，不僅可以封鎖黑名單產出內容，還能對標示為有害的用戶輸入訊息進行分析，結合上下文判斷用戶是否有濫用行為。

Google搜尋     模型幻覺  

Vertex AI生成式開發平臺利用全球最大搜尋引擎Google Search比對生成內容，提升模型輸出的真實性

為了提高模型回應品質並減少幻覺，Google最近在其生成式開發平臺Vertex AI中推出了一項預覽新服務，藉由將Gemini模型生成的回應與全球最大搜尋引擎Google Search搜尋結合，比對模型生成的內容，是否與實際情況相符，還會在搜尋結果中一併附上來源資訊，供提問者參考，進而提高模型輸出的真實性並減少幻覺。

除此之外，LLM模型部署到正式環境前，Google還推出新的模型評估機制AutoSxS，可以協助開發人員比較兩個LLM模型版本的差異，對於最後模型推論的影響，以此選擇最佳模型版本用於生產環境。另外，還推出新提示管理工具，可用於管理、追蹤，比較不同提示版本的回應品質。

影像渲染     AWS   

AWS發表影像渲染雲端託管服務Deadline Cloud

日前，AWS推出影像及內容渲染雲端託管服務Deadline Cloud，可以應用在電影、影視、廣告、遊戲和工業設計製作的2D或3D圖形渲染及任務管理。Deadline Cloud是以AWS早先發表的inkbox Deadline 10產品所推出的雲端版本，在Deadline Cloud中還加入了Web介面，方便使用者在雲端快速建立和管理各種影像渲染任務，並可直接從DCC流程和工作站的EC2實例上建立渲染執行作業。此外，從雲端介面中還能預覽正在進行的渲染任務或查看和分析日誌，並追蹤這些成本變化。

Deadline Cloud包含4個重要元件，有雲端監視器，可以偵測存取作業、步驟和任務的狀態、記錄檔和其他故障排除指標。以及能夠使用AWS開發工具包或AWS CLI提交渲染作業的雲端提交器，還有雲端預算管理器，能建立和編輯預算以協助管理專案成本。最後是雲端使用情況瀏覽器，可以根據EC2用量，用來追蹤其消耗運算和授權成本。

該服務目前已在部分美東、美西、亞太及歐洲地區推出。

攝影／余至浩；圖片來源／Google Cloud

 更多Cloud動態 

1.微軟計畫兩年內砸29億美元推動日本AI與雲端發展

2.效能高出同級x86產品50%！Google首款Arm架構通用處理器Axion亮相

3.Google資料倉儲BigQuery正式整合1.0版Gemini Pro生成式AI模型功能

4.Google分散式雲端服務GDC開始支援生成式AI搜尋功能

資料來源：iThome整理，2024年4月