Cloud周報第197期：臺灣IBM揭雲端生成式AI布局，並已有企業用戶展開PoC測試聚焦三類應用

重點新聞（03/21～04/03）

 IBM     雲端AI戰略  

臺灣IBM揭露雲端GenAI布局，並已有企業用戶展開PoC測試

近幾個月，三大公雲高調大談其雲端AI戰略，而另一家雲端大廠IBM卻很少公開提到自己的戰略。最近臺灣IBM在春酒媒體活動中透露該公司策略並沒有因生成式AI出現而改變，仍以Cloud和AI為核心，但與其他公雲業者專注於雲端提供AI模型服務不同，IBM透過紅帽OpenShift平臺，除了在雲端提供服務外，還能在地端提供落地AI模型服務，並提供企業級應用所需的數據和治理功能，讓企業能夠拿自己內部的資料來微調模型或是訓練自己的模型或者自攜小模型 ，同時還要實現Trustworthy AI。

IBM透露，目前已有臺灣企業用戶利用watsonx.ai平臺展開GenAI應用PoC測試，提供包含客戶互動、聊天機器人、生產力提升等三大類應用。在模型研發上，臺灣IBM技術長莊士逸表示，IBM不是以訓練通用的大模型為目的，而是專注在解決企業用戶的實際應用場景，因此更加強調模型的資料隱私、資料正確性，他強調，IBM自己訓練出來的LLM模型，如Granite等會更重視客戶環境中提供精準的應用服務、效用及成本。IBM還預告，除了現有LLM模型，還有新模型將在今年下半年和明年推出。

HPE     GenAI   

HPE為旗下網路管理平臺Central加入生成式AI搜尋功能

近日，HPE宣布將在自家的HPE Aruba Networking Central網路維運管理平臺中，整合多個GenAI的LLM模型，來擴展其AIOps網路管理功能。

HPE原先在Central平臺中就已提供AI搜尋功能，利用近400萬個網路管理設備和超過10億個客戶端點收集各種監測數據，用於模型訓練，提供預測分析和建議功能。

HPE指出，新增的GenAI LLM功能將整合到Central的AI搜尋功能中，補強ML的AI功能，提供更進階的洞察、分析建議。例如網管人員可以透過使用LLM的搜尋功能以更自然、直覺方式進行網路設備相關Log檢索與分析，來優化網路維運和管理。

GenAI模型使用的訓練集包含了HPE Aruba Networking在公領域數以萬計的文件以及多年營運資訊，其中包括從客戶收集超過300萬個問題。

在安全方面，HPE不僅在GreenLake雲端平臺上的Central中建立了沙盒環境，用於執行LLM，還通過專用的LLM模型確保客戶資料的安全與隱私。這些LLM模型具有能力刪除個人和客戶識別（PII/CII）資料，同時能夠在網路營運發生問題時提供次秒級別的回應。

Azure OpenAI    Neo4j   

微軟Azure OpenAI服務整合Neo4j圖資料庫功能，加強GenAI應用

日前，微軟與知名圖資料庫Neo4j合作，正式將Neo4j圖形資料庫功能整合到Azure OpenAI雲端服務中，使企業可以更容易理解結構化與非結構化資料中的交互模式與關聯性。

在整合Neo4j圖形資料庫功能後，Azure用戶能夠建立非結構化資料並將其載入到知識圖譜中，再透過各種Neo4j工具，如資料視覺化工具Bloom或用於BI的PowerBI連接器等進行資料提取和視覺化。

此外，使用者還可以使用支援向量檢索的GraphRAG，相較一般RAG能夠加強上下文理解和可解釋性。也因為Neo4j支援原生向量嵌入，開發人員可以使用OpenAI嵌入API建立嵌入，並將其儲存在Neo4j資料庫中，支援大型語言模型獲取長期記憶能力。在應用方面，Azure OpenAI結合Neo4j可應用於更多產業，例如金融詐欺和洗錢檢測，或是應用在製造或供應鏈領域，用於知識轉移、BOM管理等方面。

iKala     多雲策略   

獲6億元資金挹注，iKala與中華電信結盟不僅擴大服務觸角也要豐富其多雲、雲地解決方案

近日，本土雲端代理商iKala宣布在B+輪獲中華電信領投6.6億新臺幣，iKala執行長程世嘉揭露未來在臺的雲端布局，將持續採用多雲策略，同時結合中華電信在國內外基礎建設的優勢，豐富其多雲、雲地套裝解決方案。

iKala是Google在臺灣第一家本土的雲端代理商。iKala在2015年開始負責GCP在臺服務的經銷。6年來主力提供GCP雲服務的iKala，受多雲趨勢影響，在2021年也正式支援AWS。目前iKala營收，雲端占6成，商務占4成。

程世嘉表示，iKala客戶多是新創或網路原生企業，透過與中華電信的合作，可將雲端服務觸角延伸到更多產業。他強調，兩家公司未來合作上可以發揮互補作用， 包括技術、商務方面。

目前iKala公司約200人，主要團隊在臺灣，部分團隊在日本，其中還包含了AI研發與雲端技術團隊。程世嘉表示，未來將用最精簡的人力擴展市場。iKala還宣布成立AI研發中心，開始對外提供AI顧問服務。

獲得新一輪資金後，iKala未來一方面要成立AI實驗室展開生成式AI在內的AI基礎研究以及應用；另一方面也將與中華電信合作，加速擴展日本及東南亞市場的版圖。

英國國家網路安全中心     SCADA  

英國網路安全中心公布企業OT上雲安全指導原則，強化雲端SCADA系統的安全風險管理

最近，英國國家網路安全中心（NCSC）鎖定企業OT上雲發布一系列安全指導原則，並圍繞著工廠關鍵的SCADA資料採集與監控系統，涵蓋雲端部署、安全風險控管，組織政策等，作為企業OT系統遷雲的參考。

NCSC表示，企業SCADA上雲不僅僅將系統從地端OT環境搬上雲端，因為開始與網路接軌，從根本上改變了傳統的管理方式、安全邊界、連接模型和存取控制機制。

在這份長達70多頁的報告中，NCSC對於企業不同部署方式，包括SCADA完全上雲、混合雲，以及作為雲端災難復原方案提供不同的風險管理的建議，此外，還提供了對使用者和服務進行身分驗證以及存取控制的最佳實踐，如單一登入（SSO）或基於角色的存取控制（RBAC），或是考慮集中式密碼管理。同時，為了配合OT系統上雲，NCSC提到說，企業內部組織相關人員、技能和政策也需要跟著調整。

雲端報告    多雲   

調查：雲成本控管連二年成企業優先目標，近5成對ML與AI展開試用或計畫導入

美國IT管理業者Flexera近日公布2024雲端現況調查，這分調查是在去年底針對753名企業技術及業務經理人調查而完成。該調查顯示，許多企業開始擁抱多雲策略，比例從去年的87%略為提升到89％。但雲端成本控管成了企業最關注的重要議題。調查顯示，企業已經連續第二年將雲端支出列為最大的挑戰，甚至超過資安。平均每4家就有1家企業每年在雲端花費超過1,200萬美元。

為了管控雲端成本，不少企業導入多雲 FinOps與安全工具，其中 ，超過6成企業導入多雲安全工具，另外也有近6成企業採用多雲 FinOps工具，來加強雲端成本的監控與追蹤。

另一方面，在生成式AI風潮下，相關的雲端服務在今年採用明顯增長的趨勢，包括PaaS平臺在內的雲端服務今年都有顯著增長，特別是資料倉儲年增長10%，達到65%。此外，容器即服務和無伺服器都分別提升了9%。而在PaaS產品中，又以ML與AI最受企業所關注，近一半的企業不是已經開始試用就是計畫採用。

圖片來源／／HPE、Flexera

 更多Cloud動態 

1.Nvidia推出生成式AI微服務，可供企業在AWS等公雲上大規模部署AI模型

2.微軟公布第一批有Copilot專用鍵的Surface AI電腦

3.麥當勞全球CIO揭露全球大當機主因，第三方供應商配置變更出包才釀災

資料來源：iThome整理，2024年4月