背景圖片取自Taylor Van Riper on Unsplash

甲骨文和OpenAI本周宣布一項合作,OpenAI將以甲骨文雲端基礎架構(Oracle Cloud Infrastructure,OCI)作為擴展微軟Azure AI的基礎架構,以執行模型推論等任務。

這項合作其實涉及OpenAI、微軟Azure及甲骨文三家業者,目的在讓OCI成為類似備援方案,為微軟Azure AI擴展到甲骨文雲端,為OpenAI負載提供更高處理能力。

OpenAI的AI服務光是ChatGPT,每月用戶就超過1億,堪稱吃運算資源的怪獸。OpenAI執行長Sam Altman從不諱言其AI運算資源需求,外傳他希望募集7兆美元蓋廠自產晶片以加速訓練AI模型的任務。

或許因為OpenAI才宣布和蘋果合作,使ChatGPT整合到蘋果OS中,外界揣測可能影響OpenAI和微軟的合作關係。OpenAI在官方新聞發布後隨後澄清,這項合作是讓OpenAI使用「OCI基礎架構上的Azure AI平臺」執行推論和其他作業。OpenAI最尖端的模型仍然執行在使用與微軟合作的超級電腦上。

在公有雲市場方面,甲骨文OCI遠遠落後微軟或是今天宣布結盟的Google Cloud。根據市調業者Synergy的數據,截至今年第一季,公有雲市場仍以市占達31%的AWS居冠,微軟Azure和Google Cloud則分別擁有24%和11%市場。甲骨文則和IBM、騰訊同為2%。

但甲骨文仍有相當知名的客戶,包括Nvidia DGX Cloud、馬斯克的xAI,以及Adept、Modal、MosaicML、Together AI、Twelve Labs等AI業者。在訓練大型語言模型時,OCI的Supercluster可擴展到64k NVIDIA Blackwell GPU或GB200 Grace Blackwell Superchips,透過超低延遲RDMA叢集網路連線。OCI Compute虛擬機器和OCI裸機Nvidia GPU執行個體並可支援生成式AI、電腦視覺、自然語言處理、推薦系統等應用程式。

熱門新聞

Advertisement