微軟發表整合AI解決方案的Azure AI Foundry與兩款客製化晶片

微軟於周二（11/19）展開的Microsoft Ignite大會上，發表了整合企業AI解決方案的Azure AI Foundry，以及首個客製化的資料處理單元Azure Boost DPU，與安全晶片Azure Integrated HSM。

Azure AI Foundry是個統一的微軟AI平臺，它的兩大元件是原名為Azure AI Studio的Azure AI Foundry入口，以及Azure AI Foundry SDK，目的是協助開發人員於企業級平臺上建置生成式AI應用，使用尖端的AI工具及機器學習模型來探索、建置與部署，以及與團隊共同完成應用程式開發的整個生命周期。

根據微軟對該平臺的說明，當使用造訪Azure AI Foundry入口網站時，所有的路徑都是朝向一個專案，它是個易於管理的容器，也是協作、組織，以及連結各式服務與資料的關鍵，在使用者建立一個專案以前，可先探索來自不同供應商的各種模型，測試各種AI服務與能力，一旦確定所要的模型及服務，便可由AI Foundry引導專案的建置。

Azure AI Foundry SDK則是一個用來簡化AI程式開發的完整工具鏈，它整合了多種模型、資料來源及AI服務，可支援從模型選擇到應用部署的全部開發過程。例如它支援使用者選擇微軟或其它第三方模型；內建聊天機器人、生成式AI應用及內容推薦系統等範本；具備可整合模型、資料或服務的工具；並支援跨開發、測試及生產環境的應用開發。

Azure AI Foundry SDK目前支援Python與C#程式語言，並準備支援JavaScript，現在已可存取OpenAI的各種模型，提供一致的推論介面，亦可使用Azure AI Search及Azure AI Agent Service等服務。

近年來微軟積極投入客製化晶片的開發，去年11月首次發表了專為AI而設計的Azure Maia AI，以及雲端運算處理器Azure Cobalt CPU，至於Azure Boost DPU則是微軟首款自製的資料處理單元。

微軟解釋，傳統CPU雖然能夠處理通用運算任務，但在面對數百萬網路連結的高度複雜資料流時，表現卻不盡理想，而GPU儘管專注於AI運算，卻不適用於資料密集的工作負載，因而設計專為資料處理進行優化的Azure Boost DPU，它整合了多個伺服器元件，提供高效能與低功耗的解決方案。相較於傳統CPU， Azure Boost DPU處理雲端儲存任務時，只使用1/3的電力，卻可達到4倍的效能。

Azure Integrated HSM（Hardware Security Module，硬體安全模組）則是專為保護雲端資料及應用所設計的安全晶片。微軟說明，傳統雲端HSM通常仰賴網路連結，可能造成存取金鑰時的延遲問題，也降低了自遠端HSM釋出金鑰的安全性，而Azure Integrated HSM則是採用本地化設計，將HSM直接整合至伺服器環境，徹底解決上述的限制。

微軟亦計畫自明年便要把Azure Integrated HSM安裝在Azure資料中心的每一臺新伺服器上，以同時強化對一般及機密任務的保護。圖片來源／微軟