開發人員現在可以使用自己的資料,來微調語言模型GPT-3,以創建適合其應用程式的自定義版本,OpenAI表示,自定義GPT-3,讓模型能可靠地用於更多使用案例中,並且執行成本更低,速度更快。

開發人員可以使用任意大小的資料集自定義模型,或是根據用戶的回饋,來逐步添加資料進行調整,官方提到,透過微調,可使模型輸出的正確率,從83%提升到95%。而要自定義模型也非常簡單,用戶只需要提供資料集檔案,並在OpenAI命令列工具執行單個指令,系統便會自動開始自定義版本訓練,並且在OpenAI API中提供服務。

OpenAI從去年開始提供GPT-3的API服務,而只要幾個樣本進行額外的訓練,GPT-3就可以進一步執行各式各樣自然語言任務,這個技術被稱為少樣本學習。用戶只需要提供不到100個樣本,就可以提升GPT-3的效能,隨著用戶提供更多的資料,模型效能就會不斷提高,在去年OpenAI所發表的研究,研究人員使用少於100個樣本,就能有效提高GPT-3在特定任務上的效能,而且研究也發現,樣本數量提高1倍,改進品質會以線性增加。

對GPT-3模型是棘手問題的國小數學,使用資料集自定義後,模型解題精確度就可以提升達2到4倍。OpenAI還提到,自定義GPT-3能提高輸出的可靠性,從他們用戶的案例中發現,使用自定義GPT-3模型,不可靠的輸出結果發生頻率從17%下降到了5%,整體工作流程更加順暢,成本和延遲都獲得降低。


熱門新聞

Advertisement