
NVIDIA 今日宣布推出NVIDIA AI Data Platform,領先的供應商正在使用此可客製化參考設計為要求嚴苛的人工智慧(AI)推理工作負載構建全新級別的 AI 基礎設施:由 NVIDIA 加速運算、網路和軟體驅動的 AI 查詢代理企業儲存平台。
透過NVIDIA AI Data Platform,NVIDIA 認證的儲存設備供應商可以建立基礎設施,利用專門的 AI 查詢代理加速 AI 推理工作負載。這些代理可以協助企業利用 NVIDIA AI Enterprise 軟體,包含用於具備推理功能的全新 NVIDIA Llama Nemotron 模型的 NVIDIA NIM™ 微服務,以及全新的 NVIDIA AI-Q Blueprints,以近乎即時的方式從資料中產生洞察見解。
儲存設備供應商可以藉由 NVIDIA Blackwell GPU、NVIDIA BlueField® DPU、NVIDIA Spectrum-X™ 網路技術及 NVIDIA Dynamo 開源推理函式庫,最佳化其基礎設施以驅動這些代理。
包括 DDN、戴爾科技集團(Dell Technologies)、慧與科技(Hewlett Packard Enterprise,HPE)、日立數據系統(Hitachi Vantara)、IBM、NetApp、Nutanix、Pure Storage、VAST Data 與 WEKA 在內的領先資料平台和儲存設備供應商,正與 NVIDIA 合作建立客製化的 AI 資料平台,以利用企業資料來推理和回應複雜的查詢內容。
NVIDIA 創辦人暨執行長黃仁勳表示:「資料是 AI 時代驅動各產業的原料。我們與全球儲存設備領導廠商合作,正共同建立企業所需的新一類企業基礎設施,以便在混合式資料中心部署和擴充代理型 AI。」
NVIDIA AI Data Platform為儲存設備增添加速運算與 AI
NVIDIA AI Data Platform為數百萬個使用企業儲存設備帶來加速運算和 AI 技術,以處理驅動其公司的資料。
NVIDIA Blackwell GPU、BlueField DPU 和 Spectrum-X 網路技術提供一個加速引擎,加快 AI 查詢代理存取企業系統儲存設備裡的資料。BlueField DPU 的效能比使用 CPU 的儲存設備高出 1.6 倍,同時功耗降低 50%,每瓦效能高出三倍以上。與傳統乙太網路相比,Spectrum-X 技術透過應用自適應路由與壅塞控制,可將 AI 儲存設備流量加快最多 48%。
AI 資料平台儲存基礎設施使用 NVIDIA AI-Q Blueprint 來開發可以進行推理,並且連結至企業資料的代理型系統。AI-Q 利用 NVIDIA NeMo™ Retriever 微服務,在 NVIDIA GPU 上加快資料提取和檢索的速度高達 15 倍。
使用 AI-Q Blueprint 建立的 AI 查詢代理可以在推論過程中連結至資料,以提供更精準又具情境感知的回應內容。它們可以快速存取大規模資料及處理多種資料類型,包括來自文字、PDF、圖片和影片等多種來源的結構化、半結構化和非結構化資料。
儲存設備產業領導廠商與 NVIDIA 合作打造 AI 資料平台
NVIDIA 認證的儲存設備合作夥伴正在與 NVIDIA 合作建立客製化 AI 資料平台。
-
DDN 正在其 DDN Infinia AI 平台中建置AI 資料平台功能。
-
戴爾正為其 Dell PowerScale 和 Project Lightning 系列解決方案建立 AI 資料平台。
-
慧與科技正在將 AI 資料平台功能導入 HPE Private Cloud for AI、HPE Data Fabric、HPE Alletra Storage MP 和 HPE GreenLake for File Storage。
-
日立數據系統將 AI 資料平台帶入 Hitachi IQ 生態系,協助客戶利用儲存系統和資料產品進行創新,以推動實質的 AI 成果。
-
IBM 將 AI Data Platform整合為該公司內容感知儲存功能的一部分,搭配 IBM Fusion 與 IBM Storage Scale 技術,以加速檢索增強生成(RAG)應用。
-
NetApp 透過使用AI Data Platform開發的 NetApp AIPod™ 解決方案,推進適用於代理型 AI 的企業儲存設備。
-
Nutanix Cloud Platform搭配 Nutanix Unified Storage 將整合NVIDIA AI Data Platform,並且支援部署於邊緣、資料中心與公有雲的推論與代理型工作流程。
-
Pure Storage 將透過 Pure Storage FlashBlade 提供 AI 資料平台功能。
-
VAST Data 將與 AI 資料平台合作,利用 VAST InsightEngine 即時提供洞察見解。
-
WEKA Data Platform 軟體與 NVIDIA GPU、DPU 和網路整合,能提供最佳化的資料存取,以進行代理型 AI 推理和洞察,並提供高效能儲存設備基礎,加速 AI 推理和詞元(token)處理的工作負載。
NVIDIA 認證的儲存設備供應商計劃從本月起提供使用 NVIDIA AI Data Platform所建立的解決方案。
歡迎觀看 NVIDIA GTC 主題演講以瞭解更多資訊,並且報名參加 NVIDIA 與業界領導者在 GTC 大會的各項精彩會議,GTC 大會將從即日起舉辦至 3 月 21 日。
關於NVIDIA(輝達)
NVIDIA(輝達)為加速運算領域的先驅。