OpenAI向其API客戶提供一系列企業級功能,目的在於提升安全性和管理效能。此外,OpenAI還對Assistants API進行改進,使其檢索與模型行為更加精確,並且增加對話串流以及新的向量儲存物件等靈活功能。

OpenAI對API用戶推出一種稱為Private Link的新功能,目的在於提高資料的安全性和隱私保護,讓用戶能夠將Azure雲端和OpenAI的服務直接相連,避免資料傳輸經過公開的網際網路,最大程度降低資料洩漏的機會。這項功能對於需要傳輸敏感資料微調模型的企業用戶來說尤為重要。

在身分驗證方面,OpenAI在開發者平臺引入多因素驗證安全措施,要求用戶登入時使用Authenticator應用程式,以此增強對帳戶存取的要求,進而提升整體的安全性。

現在API用戶可以使用新的專案功能,對OpenAI中各專案進行更細緻的監控,具體功能包括用戶能夠對特定專案設定角色和API金鑰,限制可存取的專案資源,或是限制特定專案所使用的模型。此外,專案擁有者還能建立服務帳戶API金鑰,該金鑰不與個別用戶綁定,可供系統或是自動化工具直接存取專案,而這提高了自動化和整合的方便性,且因為金鑰沒有與個別用戶綁定,因此也增加了安全性。

專案的使用量限制和呼叫速率限制,讓用戶能夠更簡單地控制預算和資源,避免出現意外的超額費用。OpenAI還開始提供承諾吞吐量使用折扣,用戶也可以使用更便宜的新Batch API,以非同步的方式執行工作負載,進行模型評估、離線分類和合成資料生成等非緊急工作負載。

Assistants API的更新改進file_search檢索功能,每個助手最多可以擷取一萬個檔案,較之前僅可擷取20個檔案的限制大幅增加。API新的vector_store物件可以將檔案新增至向量儲存,並自動解析、分塊和嵌入,替檔案搜尋先做好準備,而且因為vector_store物件已經可以跨助手和執行緒使用,如此更簡化了檔案管理和計費。另外,OpenAI現在還開放用戶可以在Assistants API中,直接微調GPT-3.5 Turbo模型。

熱門新聞

Advertisement