由微軟投入銀彈的「OpenAI」，與微軟自身的「Azure OpenAI」到底有何不同？企業IT智能化最佳夥伴－MetaAge邁達特，透過本文解說如何以 Azure OpenAI 作為基本盤，延伸這些企業級AI 應用。以及，用量管理＆模型管理可以怎麼做？「從體驗到驗證」Azure OpenAI，企業還可以獲得哪些「從頭到尾」的導入協助？
OpenAI和Azure OpenAI，有何不同？
OpenAI和Azure OpenAI一樣嗎？首先，Azure OpenAI 是微軟 Azure 雲平台的「服務」，OpenAI 則是微軟近年投資的一家「公司」。Azure OpenAI 並非 OpenAI API，不過，兩邊的模型一模一樣。
當由微軟金援的 OpenAI 發佈新模型時，身為授權夥伴的微軟，也會同步取得這些模型，並由微軟的 RD 團隊以 1~2 週的時間處理好安全性、可用度等 SLA 事宜後，再發佈新版 Azure OpenAI 服務供企業使用。
基於資料外洩風險，全球目前有不少政府機關、民間企業宣佈禁用OpenAI的 ChatGPT。而微軟的 Azure OpenAI、Copilot 等「企業級服務」則持續推出，主要差異在於微軟的 AI 服務可滿足企業對 SLA、資安、法遵等需求，可消除不少企業主的疑慮。
Azure OpenAI 是「專為企業而生」的AI服務
儘管OpenAI 也朝向推出「商務版」發展，然而Azure OpenAI 是更直接地「Born for Enterprise」。目前，OpenAI 無法為您提供在地化技術支援；也無法為您即時排除問題。以及，在資安控管與防護上，顯然是Born for Enterprise的Azure OpenAI 能做得更全面且到位。
綜觀而言，Azure OpenAI 可以讓企業用戶在更合規、更安全的前提下，使用 GPT-3 及其衍生模型。倘若您的企業需要更高的安全性、存取管理、網路傳輸、數據保護、擴展容量，以及不容忽視的在地化技術支援、即時的問題排除，Azure OpenAI 和 Microsoft 指定的台灣代理商，都可攜手提供企業用戶上述保障。
Azure OpenAI如何計費？模型怎麼選，才不會爆預算？
自然語言模型的運算是以「Token」為單位，750 至 800 個單字約能換算成 1000 個 Tokens。微軟在 Azure OpenAI 的使用計費，是以 1000 個 Tokens 為一個單位作計費，需要計費的項目包括「一般使用」、「Fine Tune」 與 「Hosting」。
「一般使用」是以 Tokens 量做計算，而「Fine Tune」 與 「Hosting」 則是以小時做計算。費用多寡以模型大小為區分，其中以 Davinci 為最高價；Ada 則為最低價，您能依據使用用途選擇最適用的模型。如欲深入了解模型有哪些（Ada、Babbage、Curie、Davinci）及其性能差異，您可另開新視窗【閱讀此文】。
以下舉例說明如何評估費用：
假設某家電信業者客服 APP 每月有 20 萬活躍客戶，每人每月平均 10 次互動，每次總計 300 字數（英文）。模型每週 Fine tune 一次 30 小時。以此案例作計算，使用模型為 Ada，每月總費用大約為 2755.7 美元。
算式如下：
( 200,000 × 10 × 300 × 1.33 ) ÷ 1000 × $0.0004 ＋ ( 30 × 4 × $20 ) ＋ ( 730 × $0.05 ) ＝ 319.2 ＋ 2400 ＋ 36.5 ＝ 2755.7／每月
IT智能化最佳夥伴－MetaAge邁達特建議您：在使用模型時，以使用較低效能的模型為優先。若此模型不符合期待，再往上調整。除了樽節成本，亦能符合使用者的期待。另外，模型管理＆流量管理對企業而言至關重要，因此在MetaAge邁達特的Azure OpenAI 導入服務中，我們為企業提供了模型管理與流量管理的建構環節。
從體驗到驗證！邁達特4道工法，提供「從頭到尾」導入協助
作為微軟指定的台灣代理商，MetaAge 邁達特具備專業團隊，可為企業提供 Azure OpenAI「從頭到尾」的全程導入協助。透過邁達特協助，您的企業與團隊僅需幾個步驟，即可展開 Azure OpenAI 應用旅程，包括建立基礎 Know-How，接續進行 Fine Tune，經過 POC 後再正式 Go Live！
針對以下每個步驟階段，IT 智能化最佳夥伴－ MetaAge 邁達特都可提供豐富且專業的顧問與支援服務，讓您在微軟最高安全保護級別之下，正式部署 AIGC 應用。
-
建立 Azure OpenAI 基礎知識
-
申請 Azure OpenAI 引導體驗
-
學習 Azure OpenAI 的 API Fine Tune 方式
-
最終進入商業流程
在申請階段，我們會梳理您的需求，協助設計應用流程。到了Fine Tune 階段，會引導您熟悉 API 操作、模型優化並建構流程管理機制，同時展開概念驗證（POC）。到了 Go Live 階段，我們則會協助您驗證前一階段發起的 POC 成果。最後，在正式進入商業流程前，我們會協助您建構模型管理及流量管理機制，因為這些環節對企業而言至關重要。
如果您的企業已有微軟帳戶，您可授權 MetaAge 邁達特成為雲端解決方案提供者，進而開啟 Azure Plan、取得 Azure Subscrition ID。若您沒有微軟帳戶，則可填寫申請表，由 MetaAge 邁達特協助建立微軟帳戶、啟動 Azure Plan，再取得 Azure Subscrition ID。
結合產線數據，Azure OpenAI如何為製造業賦予新靈魂？
在垂直產業應用面，則不得不提「製造業」如何透過 Azure OpenAI 來賦予新靈魂，其關鍵就在於「結合產線數據」。將 Azure OpenAI 結合產線資料，無需受限於時間或空間，即能產生更多應用。
舉例而言，從前在推動自動化操作的過程中，傳統做法是仰賴 Programmer 撰寫大量程式，繼而讓使用者能透過系統介面下達條件，並根據條件執行後續處理，達到近似於 RPA 的目標與效果。
現在，有了 Azure OpenAI，有沒有可能透過 Azure OpenAI 幫忙產生所需的自動化程式？答案是肯定的。舉例來說，從前 SAP 團隊要花錢請顧問協助下 Query 條件，進而撰寫程式，深究其因，在於顧問非常熟悉 SAP 的「長相」。
現在，其實 Azure OpenAI 也有能力像顧問一樣，理解 SAP 的長相和 Schema，再根據使用者下達的需求條件，幫忙產生 Query 或是 SQL 敘述句（Statement），大幅提升程式開發效率。
關於Azure OpenAI 實例分享，你還可以知道更多
全球使用 Azure OpenAI 的企業應用實例正不斷新增。如 Trelent 是專門編寫程式碼、協助客戶解決問題的公司，為了避免資訊外流，以及基於安全性，Trelent 採用了微軟 Azure OpenAI 的服務。除了生成程式碼之外，該公司也屢屢搭配運用 Azure平台上其他功能，使其回應客戶的時間從 1.3 秒加快為 0.75 秒，有效提升工作效率，也讓工程師將心力集中於處理核心事務。
在客服支援情境方面，則有企業利用 Azure OpenAI 梳理客戶的提問，且把公司產品內容融入 GPT 模型，加速為客戶推薦產品。
此外，Farmlands 公司則採用 Dynamics 365 進行客戶聯絡；後來加入 Azure OpenAI 服務後，從客戶聯絡資訊提取關鍵字、短語及傳遞的情緒價值，使客服人員能夠快速理解客戶想表達的問題，亦把此功能開放給客戶，便於客戶在系統上直接查看歷次問答結果，以掌問題解決進度，從中有效提升客戶滿意度。
● 延伸閱讀｜Azure AI 具有哪 5 種優勢？Azure AI 的 5 項核心技術 & 4 種垂直產業應用
IT 智能化最佳夥伴 MetaAge 邁達特 — Microsoft 指定的台灣代理商
如欲協助啟用 Azure OpenAI，或想更深入暸解 Azure OpenAI 如何為您的團隊賦能、穩定加速智慧轉型的進程，您可【 由此聯繫 】Microsoft 原廠指定的台灣代理商MetaAge 邁達特。
MetaAge 邁達特具備 Microsoft MSP Indirect Provider 資格，在台灣擁有實戰二十餘年的 IT 技術量能，可針對 Microsoft Azure 提供雲託管等服務，也可依照貴司環境，提供全面的客製化規劃、移轉方法、自動化流程設計和各項技術服務。
有任何 Microsoft Azure、Azure OpenAI Service、M365 相關使用問題及需求嗎？正在尋找兼顧成本、效能、智能、永續的 IT 解決方案嗎？歡迎【 由此聯繫邁達特 】，將有專人與您接洽。
熱門新聞
2024-12-27
2024-12-24
2024-11-29
2024-12-22
2024-12-20