OpenAI針對付費用戶推出ChatGPT、Whisper API

OpenAI積極向企業用戶招手。繼2月宣布付費服務ChatGPT Plus後，本周稍早OpenAI宣布生成性AI ChatGPT及自動語音辨識AI系統Whisper的API，使付費企業及開發人員開發的應用存取其AI對話機器人和語音轉文字的AI模型。

這是自11月以來，OpenAI將ChatGPT上線開放用戶測試後，針對開發人員設計的新服務。OpenAI指出，在對ChatGPT實施全系統最佳化下，12月以來已省下90% ChatGPT的成本，現在公司將把省下的成本提供給API用戶。開發人員現在可經由API使用Whisper開源的large-v2模型，同時享受更快的服務。而ChatGPT API用戶則將使用更新版模型，還能選擇專屬執行個體以便更深層控制模型，包括版本和效能。

針對ChatGPT API，OpenAI宣布存取的AI模型已改版到gpt-3.5-turbo，等同於ChatGPT付費產品使用的版本。其收費標準為每1000個token（字詞單位）0.002美元，是GPT-3.5價格的1/10，也是眾多非對話應用情境中最好的模型。OpenAI宣稱有許多早期測試人員已從text-davinci-003搬到gpt-3.5-turbo，過程中只要對其提示做少量修改。

OpenAI同時宣布開源最新版AI模型gpt-3.5-turbo-0301，將最少支援到6月1日，他們也預計4月更新gpt-3.5-turbo模型到最新穩定版本。

針對專屬執行個體，OpenAI解釋，原本用戶對ChatAPI的呼叫是和他人共同運算基礎架構，用戶以呼叫計費，但ChatGPT API不同。它是執行在Azure上的專屬執行個體，用戶（開發人員）是以時段長度付費。在專屬執行個體中，開發人員可全權控制執行個體的負載量，這功能可支援更長時段的使用情境，以及抓取模型的快照（snapshot）。

OpenAI表示，專屬執行個體對每日執行token量超過4.5億的開發人員來說更划算，也能針對硬體效能最佳化開發人員作業負載，進而減低共享基礎架構的成本。

語音轉文字服務Whisper使用的模型則提升到large-v2，費用為每分鐘0.006美元，支援影片格式包括m4a、mp3、mp4、mpeg、mpga、wav及webm。

目前已經有多家開發商使用ChatGPT API。用戶包括圖片分享App Snapchat開發商Snap。該公司使用ChatGPT API於本周上線測試的My AI for Snapchat+聊天機器人中。Snapchat每月用戶達7.5億，結合ChatGPT的My AI可為用戶提供建議，甚至幫用戶寫出俳句。

此外，用戶數超過6000萬的學習平臺Quizlet利用ChatGPT API開發出Q-Chat AI教師（下圖）、南韓語言學習App Speak也用AI模型透過對話機器人寓教於樂。行動購物App開發商Instacart及Shopify則運用ChatGPT，將ChatGPT整合在個人化服務中，以問答方式提供用戶購物建議。

圖片來源／OpenAI