OpenAI擴大AI模型微調功能、也提供輔助微調服務

OpenAI上周公布AI模型微調功能，供企業或開發商用戶自行微調AI模型以開發想要的AI應用，也為企業提供輔助微調或從頭打造AI模型的服務。

OpenAI於去年8月推出GPT-3.5模型的微調API。有數千家企業或開發商利用API訓練數萬模型。微調可使模型更能理解訓練內容、擴增特定任務相關的知識及能力。微調API也比普通ChatGPT單一提示支援更多範例，可提高回應結果品質，同時降低成本與延遲性。微調可用於模型使用特定開發語言，以特定格式總結文字、或根據用戶行為生成個人化內容。已使用的企業包括工作媒合平臺Indeed利用GPT-3.5 Turbo模型訓練給求職者的個人化推薦訊息。透過微調模型，提升訊息精確性，並降低近80%的token量，該平臺得以將訊息量減少為1/5，進而降低成本及延遲性。

在此基礎上，OpenAI再增加微調功能。包括周期（epoch-based）為基礎檢查點（checkpoint），減少過度擬合（overfitting）造成日後必須再訓練；比較性Playground UI，可同時比較多個模型輸出結果，或檢視在單一提示下的微調效果；整合第三方平臺，第一批包括Weights和Bias，方便開發人員將微調的資料分享到其他部份軟體；大量參數配置，允許從Dashboard設定，以及微調模型，而非僅能從API或SDK，其微調能力也改善，支援輸入超大量參數、檢視詳細的訓練量測值，和回復到前次配置。

如果企業需要有人幫忙微調，現在OpenAI也推出相關服務，名為自訂模型（Custom Model）方案。這方案是去年11月OpenAI在首場開發者大會DevDay首次宣布並測試。上周OpenAI正式宣布自訂方案下的輔助微調服務，將提供一組OpenAI技術人員協助企業訓練與優化特定領域的模型。除了微調API，OpenAI的技術團隊還提供超大量參數及多種「參數高效微調（parameter efficient fine-tuning，PEFT）」方法大規模訓練AI模型。

這項服務可協助企業建立高效率的資料管線、評估系統和輻輳式參數和方法，提升模型效能滿足企業應用場景需求，或是從頭打造模型。前者客戶包括韓國電信（SK Telecom，SKT），SKT在OpenAI協助下，微調GTP-4模型，以改善韓語電信客服對話的理解效能，結果使對話總結品質提高35%、意向認知準確性提升33%、客戶滿意分數由3.6提到4.5分（滿分5分）。

而在從頭打造模型的服務方面，OpenAI團隊會利用新式的中訓練（mid-training）及後訓練（post-training）方法建立特定領域、產業及任務的模型。例如OpenAI協助律師事務所專用AI工具開發商Harvey運用法律專用的中訓練方法，客製化GPT-4的後訓練流程，加入專業律師意見，最後開發的模型的事實回應能力提高83%，律師滿意度也比較原始GPT-4提高97%。

企業或開發商需要直接連絡OpenAI以取得服務。

圖片來源／OpenAI