Nvidia發表Blackwell Ultra加速AI推理，釋出首個人形機器人開發的開放式基礎模型

在GTC 2025大會中，Nvidia執行長黃仁勳發表Blackwell Ultra，鎖定AI工廠的AI運算平臺，以加速AI推理、代理型AI及物理型AI(Physical AI)，其中的GB300 NVL72要比GB 200 NVL72的AI效能高出1.5倍，與Hooper相比則提高50倍。此外，該公司也釋出首個開放的人形機器人基礎模型Isaac GR00T N1，強化人形機器人的推理能力。

黃仁勳在主題演說中指出，AI技術正從先前的認知AI到生成式AI，往代理AI及物理AI發展，愈往後發展，AI具備更高的智能，例如物理AI技術的發展，讓AI能更好的理解實體環境的3D世界，同時驅動AI機器人的發展，每個階段的發展都會帶來商機，但是愈往後發展，就需要解決三個基本的問題，如何獲得資料、如何在沒有人類限制下訓練模型，以及AI推理能力需要更大的擴展(Scaling)訓練，需要更大的運算，超過一年前相同時間所預期的100倍。

鑑於更複雜的AI推理能力所需的運算效能，Nvidia發表Blackwell Ultra，用來加強訓練及測試時間擴展推理(Test-time scaling inference)，Blackwell Ultra是基於先前的Blackwell架構，但採用效能更高的GB300 NVL72及HGX B300 NVL16。

其中GB300 NVL72採NVlink連接72個Blackwell Ultra GPU及36個Grace CPU，GB300 NVL72的AI效能比GB 200 NVL72高出1.5倍；而HGX B300 NVL16則比Hopper，運算效能提升7倍，而在大型語言模型的推理速度則提升11倍，記憶體也增加4倍，以因應較複雜的運算負載需要。

「AI已取得巨大的發展，推理及代理AI需要更多的運算效能，Blackwell Ultra可以高效地完成預訓練、後訓練、推理AI的推論」，黃仁勳說。

相較於傳統的LLM，產生的Token較少，對問題的回應容易出錯，推理模型能夠產生更多的Token，從而提高回應的準確性，但相對地也需要更大的運算效能，因此Nvidia強調Blackwell Ultra的效能有助於AI的擴展推理能力，可將複雜的問題拆解成多個步驟，探索不同的解決方式，來提高回應的品質。

除了有助於AI的推理能力發展，也有助於物理AI技術發展，像是即時生成擬真的影像，以大規模的訓練機器人、自駕車，Nvidia也在GTC中宣布將和美國的GM汽車在自駕車技術進行合作。

Blackwell Ultra預計在2025年下半年提供，Nvidia揭露思科、戴爾、HPE、聯想、華碩、富士康、技嘉、和碩、廣達等將推出相關系統，AWS、GCP、Azure等雲端服務業者將會提供運算服務。

考量到橫向擴充的需要，Blackwell Ultra未來可搭配Nvidia Spectrum-X乙太網路及Nvidia Quantum-X800 Infiniband，透過Nvidia ConnectX-8 SuperNIC，讓每個GPU的資料吞吐量達到800Gbps。

為加速推理AI技術，Nvidia也推出開源推理框架Nvidia Dynamo，針對部署數千個GPU的AI工廠，GPU間的溝通協調工作，將大型語言模型的處理、生成分派到不同的GPU，縮短回應時間，並且降低服務的成本。

Blackwell Ultra之後，Nvidia也如先前所承諾的，以一年一更新的步調，揭示未來兩年的產品籃圖，2026年下半年將推出Vera Rubin NVL144，效能為GB300 NVL72的3.3倍，記憶體容、頻寬、NVLink速度也有至少1.6倍的提升；接下來，2027年下半年將推出Rubin Ultra NVL576，效能比GB300 NVL72提高14倍，搭配NVLink7、CX9，大幅提升記憶體、頻寬速度。

針對物理AI，黃仁勳認為，物理AI將會驅動機器人、自駕車等科技快速發展，創造出新一波的機器人商機，其中人形機器人，不論在家庭生活協助或是工廠自動化生產，預期會有相當的需求。

因此Nvidia也釋出首個針對人形機器人的開放基礎模型，GTC釋出Isaac GR00T N1，這個模型標榜為目前全球第一個開放、可自訂的通用人形機器人推理及技能基礎模型，N1整合視覺語言模型及整合Transformer的擴散模型，讓機器人可接受sensor token(例如影像)及text token(語言命令)，經過整合Transformer擴散模型處理後，產生action token，讓機器人採取行動。

該公司也和Google DeepMind、Disney Research聯手開發機器人引擎Newton，以星際大戰中的BDX機器人為模仿，該機器人的頭部及雙腳可以自主移動，不只是靜態的模擬畫面展示，現場也安排Newton機器人升上舞臺，即時與黃仁勳互動，這款只到成人大腿左右高度的機器人搖頭晃腦外，還能依照黃仁勳的指示，移動到指定的位置，描繪物理AI技術下，可與人類互動的人形機器人在生活中已不再遙遠。