GitHub推出Models新平臺,可供開發者試用多種大型語言模型,並在遊樂場(Playground)模型測試環境中測試不同的提示詞和參數。開發者可以使用瀏覽器IDE Codespaces實驗和開發,並利用範例程式碼整合模型,當測試完成,還可以簡單地將新功能應用到專案中,部署至生產環境。

開發者現在可以利用GitHub內建的模型遊樂場,免費試用Llama 3.1、GPT-4o、GPT-4o mini、Phi 3以及Mistral Large 2模型,只要透過滑鼠點擊,就可迅速測試當前多種熱門的私有和開放模型,進行人工智慧應用程式實驗、比較甚至是部署。

官方指出,因為每個軟體應用都是特殊的,模型在功能、效能和成本上也不一樣。透過GitHub提供的模型套件,開發者可以更快地進行試驗和學習。GitHub不只是提供遊樂場讓開發者測試模型,同時也建立了一個工作流程,讓開發者可以更快地將人工智慧應用,從概念性驗證階段過渡到生產階段。

借助Codespaces,開發者可以將模型推理程式碼,應用到自己的專案上進行試驗,官方也準備了各種語言的框架樣板程式碼,方便開發者在各種場景進行測試。一旦開發者在遊樂場和Codespaces中試驗完畢,就能將測試的結果合併到應用程式中,並運用GitHub Actions進行提示詞評估等各種自動化操作,最後使用Azure AI將應用部署到生產環境中,而這只需用Azure訂閱和憑證替換GitHub個人存取令牌即可。

GitHub Models目前仍在測試階段,當服務正式推出時,官方將會在平臺添加更多語言和模型支援。官方也承諾,GitHub Models中的任何提示詞以及輸出,都不會與模型提供者共享,也不會用於訓練和改進模型。

熱門新聞

Advertisement