導入LLM技術幫忙管理Azure雲服務環境，微軟釋出AI助手預覽

三大公有雲業者爭相發展生成式AI輔助操作功能，例如，微軟在11月中舉行的Ignite年度IT專業人員用戶大會，宣布更多冠上Microsoft Copilot的功能服務，而針對涵蓋邊緣到雲端的Azure環境維運需求，他們推出Copilot for Azure，提供簡化日常系統管理作業的AI功能，可透過統一的對話互動方式，在理解用戶的角色與工作目標的脈絡之下，執行應用程式與IT基礎架構的設計、營運、調校，以及障礙排除，這項功能可橫跨邊緣與雲端環境，協助用戶以更有效率的操作方式，深入了解工作負載的狀態，更懂得運用以往不熟悉的Azure功能，以及調度指揮各種任務。

IT人員若要使用Copilot for Azure，主要是經由Azure網站入口的管理主控臺來進行，目前已開放預覽測試，用戶需填寫線上表單申請存取試用，未來將開放Microsoft Azure行動App，以及Azure CLI命令列介面。

透過文字交談對話的互動形式，這項AI輔助功能，可回答日常管理Azure面臨的各種問題，產生查詢、執行任務，並以安全的方式代表操作者執行各種處理，過程中，能提供高品質的推薦資訊，而在依此建議採取動作時，也能同時遵循所屬組織本身的政策與隱私保護。

在AI與資料技術的運用上，Copilot for Azure結合多種大型語言模型（LLM）、Azure控制層（control plane），以及針對用戶的Azure環境與啟用Azure Arc架構的數位資產洞察分析，並基於Azure承諾保護用戶資料安全性與隱私的框架，實現上述這些處理。

基本上，這項AI助手在推論、分析、詮釋時，所憑藉的內容來自多種資訊管道，包含：Azure 的部署與管理服務Azure Resource Manager（ARM），可大量查詢特定訂閱服務內容、探索資源使用效率的ARM延伸服務Azure Resource Graph（ARG），以及成本與用量資料、文件庫、技術支援、最佳實務指引等。

包含Azure環境設置的各種管理工具、遵循的政策、治理面向、角色存取控制在內，這些機制觸及的相同資料與多種介面，Copilot for Azure都可以存取，微軟表示，Azure團隊正在持續強化Copilot對於每種服務與功能的理解，促使Copilot變得更有用。

關於Copilot for Azure的4大基本功能，微軟提出說明。首先，在設計方面上，AI助手將協助用戶建立與設置Azure服務，而且能符合組織的政策要求。在營運方面上，AI助手能幫忙的部分是回答問題、編寫複雜的指令，以及管理資源。在障礙排除方面上，AI助手能橫跨多種Azure服務進行調度，產生洞察分析，能夠以摘要的方式敘述問題、識別原因，以及提出解決方案的建議。而在調校方面上，AI助手可針對用戶環境提供推薦作法，改善Azure使用的成本、延展性，以及可靠性。

在Copilot for Azure可應用的場景上，微軟目前提出幾個例子。首先是協助用戶了解雲端環境的狀態，AI助手可利用Azure雲端服務專屬的Kusto 查詢語言（KQL），建構在Azure Resource Graph平臺進行查詢的語句，能加速產生Azure資源與部署環境的洞察分析內容。對於新手與專家而言，均可透過這項功能輕鬆從Azure Resource Graph Explorer的介面，開啟、檢視生成的查詢語句內容，達成資源管理的目的之餘，也能確保這些指令精準反映所要提出的問題。

第二個例子，是成本開銷與效能的管理。Copilot for Azure可協助用戶理解發票、費用支出的模式、變更，以及本體以外的部分，它能推薦最理想的成本配置。基本上，AI助手可協助雲端開支的分析、估算，以及最佳化配置，我們可以向它詢問為何某月某日的費用暴增，以及花費最多錢的訂閱服務，可立即根據用戶的用量、帳單、成本等資料產生解答。

在效能管理上，Copilot for Azure整合應用程式監控服務Azure Application Insights的Code Optimizations，可透過進階的AI演算法，偵測程式碼導致的CPU與記憶體用量的效能相關問題，並提供修正這些狀況的建議。同時，AI助手可針對.NET應用程式，執行探查與分類，找出可使用的程式碼內容調整建議。

為了能善用雲端資源監視器Azure Monitor對每種Azure資源提供的豐富量測指標，Copilot for Azure協助用戶找到這些項目，也提供分析結果的圖表呈現與摘要內容，以便後續執行更深入的探索、異常偵測，進而分析意外的變更動作，並且提供解決這些問題的建議。

除了輔佐網頁介面的操作，Copilot for Azure也能幫忙Azure CLI的命令列與指令碼使用，用戶可藉此輕鬆、快速了解實現特定操作所需要用到的命令與參數，如果需要多個命令去完成一項任務，AI助手可以產生一段遵循Azure最佳實務的指令碼，而這樣的內容可直接在Azure網站入口Azure Cloud Shell執行，或是存成副本以用於重複執行或自動化處理作業。

線上技術支援與障礙排除也是Copilot for Azure主打特色，它能提供源於Azure線上文件，以及內建的特定服務診斷與排解問題工具，產生處理這些狀況的洞察分析，當中將會快速提供逐步操作的指引，協助選擇正確的工具，可處理CPU高使用率、網路問題、記憶體傾印、擴展資源等需求增加的問題，並且提供指向正確文件的網址連結；若還是無法解決，用戶可提出請求，AI助手會導引至可提供進一步協助的技術支援服務。

產品資訊

微軟Copilot for Azure
●原廠：微軟
●建議售價：預覽期間免費提供
●存取方式：Azure入口網站
●採用技術：大型語言模型、Azure控制層、Azure資源探索服務Azure Resource Graph
●服務存取範圍：Azure與啟用Azure Arc的資產，受限於Azure既有存取管理與保護機制（Azure角色型動作控管、特權身分管理、Azure Policy、資源鎖定）
●前端收集資料範圍：使用者參與資料（對話階段數量和持續時間、特定對話階段使用的技能、肯定、否定、意見反應），使用者輸入的提示與AI的回應不會用於訓練、進階訓練或改善Azure OpenAI用於產生回應的基礎模型

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】