【生成式AI應用浪潮下，帶動企業Copilot客製化新需求】微軟揭露AI Copilot技術開發框架，下一步要建構完整開發生態圈

「要讓所有開發者和企業能夠為他們的應用提供Copilot的能力。」微軟執行長Satya Nadella在今年Build開發者大會開幕演講時這樣強調，企業自建Copilot所需要的基礎設施，從AI基礎架構、基礎模型、AI調度管理，到他們自己的Copilot應用及其延伸功能，所有這些都能在Azure環境中完成。

Copilot是微軟開發的生成式AI對話應用，以OpenAI的GPT模型為基礎進行開發。最初，Copilot在GitHub中推出，不到一年就獲得上千家企業及破百萬名開發人員採用。當時的Copilot的任務相對簡單，以協助開發者撰寫程式為主。經過兩年多，Copilot逐漸發展成為一個更全面的生成式AI助手，出現在更多的微軟服務中協助使用者處理不同的工作任務，無論是提供個人化搜尋建議、文書工作處理，還是在行銷活動、數據分析及安全方提供即時的協助。

尤其，更強大、正確率更高的GPT-4模型推出後，進一步提升了Copilot的能力，例如今年3月推出的GitHub Copilot X，將GPT-4整合到IDE開發工具中，不只能自動寫程式，還能提供優化配置和除錯功能。

微軟會中透露，Windows 11作業系統將同樣支援Copilot功能，這意味著，Copilot將變成Windows作業系統中的常駐程式，可以在桌面環境提供使用者更多支援和協助。

要讓每家企業都能自建Copilot

但是，微軟想要做的事不僅僅是如此而已，看準生成式AI應用浪潮，微軟不只要擴大旗下產品對於Copilot的支援能力，更要開始讓Copilot走出自己的服務，進到企業特定應用或服務場景中來提供專屬的Copilot能力。這意謂著，每家企業都能自建Copilot，利用微軟所提供開發工具和龐大資源，協助他們建構符合自身需求的專屬Copilot或下一代AI應用。微軟正是看準了這些不同服務類型Copilot背後的企業客製化應用需求。

Satya Nadella以「人工智慧的Mosaic時刻（編按：網路第一個普及的圖形瀏覽器）」來形容因ChatGPT帶動的生成式AI應用浪潮，以及對於開發人員可能帶來的新變革，而新推出Copilot的外掛擴充（Plugin）功能，就是微軟迎戰這股變革的關鍵戰略，「要透過外掛擴充將Copilot延伸到每家企業的應用中，」Satya Nadella如此表示。

但是，微軟的外掛發展策略，並非要打造出像蘋果App Store的模式一樣，建立一個統一、集中式的外掛上架平臺來收取分潤，相反地，微軟的目標是要建立一個外掛生態圈，吸引廣大開發者和企業加入並開發各自的外掛功能。這些外掛無法單獨存在，必須與微軟各種商用Copilot搭配使用，出現越多的外掛，就越能進一步壯大Copilot生態圈，也越能帶動微軟商用Copilot的相關業務。

生成式AI對話應用開始支援外掛機制，微軟並不是第一家採用這項策略的業者。早在今年3月時，因推出ChatGPT而爆紅的OpenAI就已經支援外掛功能，能夠透過不同外掛API來讓ChatGPT與企業提供的數據或第三方應用進行互動。他們還推出專屬外掛程式的商店，通過審核的用戶可以上架自己的應用外掛程式到這個商店平臺中。儘管目前仍處於測試階段，已有20多支官方和第三方應用外掛推出。

開始提供Copilot外掛支援能力

ChatGPT外掛推出後不久，微軟發表了一個能支援外掛的Bing Chat，這個外掛機制類似於ChatGPT，可以利用安裝外掛的方式，進一步延伸Copilot功能。隨後在5月底的Build年會上，微軟更透露，M365 、Power平臺、Dynamics 365中的Copilot將支援相同的外掛標準，就連新版Windows作業系統開始內建Copilot後，也能支援該外掛。

微軟採用了和OpenAI的ChatGPT相同的外掛標準，更替微軟和OpenAI外掛平臺提供了一個可以彼此互通的方式。透過這樣的方式，微軟表示，目前已有超過50個第三方外掛支援Copilot，預計還有上千個外掛功能將推出。舉例來說，Bing已與ChatGPT共用許多外掛功能，如OpenTable、Wolfram Alpha等，如今，ChatGPT更深度整合了Bing，將其預設為自己的搜尋引擎。

「當每個開發人員都能夠撰寫外掛並將其應用於Copilot中所涵蓋的數十億用戶，」Satya Nadella認為， 這將賦予這些開發者強大的力量，可將他們所開發的AI服務和應用，進一步延伸到全世界各角落。

微軟採用了和OpenAI的ChatGPT相同的外掛標準，可以讓微軟和OpenAI兩個平臺上的外掛可以彼此互通，透過這樣的方式，微軟表示，目前已有超過50個第三方外掛程式支援Copilot，預計還有上千個外掛功能將推出。（圖片來源／微軟）

微軟開發工具開始整合外掛開發

另一方面，微軟開始整合了既有的開發工具和資源，提升對於該外掛機制的支援能力。例如，微軟已經將Visual Studio Code、 GitHub Codespaces等工具與新的外掛標準整合，現在開發者可以直接在這些工具中來建立、部署或調度在Copilot介面運作的外掛功能，幫助企業或開發人員能更快採用。

微軟表示：「不會向任何第三方收取為Bing建構Plugin的費用。」然而，在開發Copilot應用的過程中，開發者或企業有可能需要使用微軟的付費服務，例如基礎架構和基礎模型服務，來進行Copilot應用的開發。

AI Copilot技術開發框架大公開

從微軟公開的AI Copilot技術開發框架中，可以反映其Copilot開發生態圈的發展戰略。從這個技術框架來看，微軟將Copilot整個軟硬體架構分三層，最底層是AI基礎架構與基礎模型，其中基礎模型包括了Azure OpenAI的GPT模型、合作夥伴及開源社群及企業自己開發的基礎模型；中間層則是AI調度管理層，包含外掛執行、基礎資料（Data grounding）、中繼提示（Metaprompt），以及「提示與回應」過濾機制。Azure在這兩層中都有提供相關服務。最上層是App層，包括Copilot以及外掛擴充功能。企業或開發人員可以透過外掛方式在微軟提供的Copilot平臺中開發自己的延伸功能，或者使用自己客製的Copilot版本進行開發。並可利用微軟IDE開發工具與GitHub完成所有Copilot應用開發。

微軟進一步還以這個AI開發框架為基礎打造了一個全流程AI Copilot建置及管理平臺，稱為Azure AI Studio，成為了擴大其開發生態系的另一個重要關鍵。

除了提供了模型建立、訓練、測試和部署功能，AI Studio還具備了一般AI開發平臺所沒有的特色，例如提供了模型推論的即時測試功能，開發者可以使用自然語言對話框迅速測試和驗證模型的推論結果，還整合提示工程（Prompt engineering）做法優化流程，讓企業能用系統化方式來調校和管理多種提高模型回答準確率的提示。

從微軟公開的AI Copilot技術開發框架中，分為三層架構，最底層是AI基礎架構與基礎模型，其中基礎模型包括了Azure OpenAI的GPT模型、合作夥伴及開源社群及企業自己開發的基礎模型，中間層則是AI調度管理層，包含外掛執行、基礎資料、中繼提示、與提示與回應過濾機制。最上層是App層，包括Copilot以及外掛擴充功能。（圖片來源／微軟）

建構完整Copilot開發生態圈

微軟很早就積極擁抱生成式AI技術，通過與OpenAI合作並以ChatGPT所使用的GPT模型為基礎，推出商用生成式AI基礎模型服務，微軟更利用這項技術開發出生成式AI對話應用Copilot，並將其運用在自己的產品中。

微軟AI戰略下一步將以Copilot為核心，不僅要擴大其產品支援，更要利用外掛機制的推出，讓開發人員與企業都能夠在商用Copilot中開發自己的功能，甚至也要讓這些不同外掛功能，可以支援企業用Azure AI自建的Copilot。新的AI Copilot建置及管理平臺也成為企業打造自己的Copilot的一個完整開發工具。

建構一個成熟且完整的Copilot開發生態系，這正是微軟迎戰生成式AI應用浪潮下的AI新戰略。而要加速建構這個生態圈的關鍵，正是靠這兩大關鍵新策略。

 相關報導