
Nvidia
在GTC 2025大會中,Nvidia執行長黃仁勳發表Blackwell Ultra,鎖定AI工廠的AI運算平臺,以加速AI推理、代理型AI及物理型AI(Physical AI),其中的GB300 NVL72要比GB 200 NVL72的AI效能高出1.5倍,與Hooper相比則提高50倍。此外,該公司也釋出首個開放的人形機器人基礎模型Isaac GR00T N1,強化人形機器人的推理能力。
黃仁勳在主題演說中指出,AI技術正從先前的認知AI到生成式AI,往代理AI及物理AI發展,愈往後發展,AI具備更高的智能,例如物理AI技術的發展,讓AI能更好的理解實體環境的3D世界,同時驅動AI機器人的發展,每個階段的發展都會帶來商機,但是愈往後發展,就需要解決三個基本的問題,如何獲得資料、如何在沒有人類限制下訓練模型,以及AI推理能力需要更大的擴展(Scaling)訓練,需要更大的運算,超過一年前相同時間所預期的100倍。
鑑於更複雜的AI推理能力所需的運算效能,Nvidia發表Blackwell Ultra,用來加強訓練及測試時間擴展推理(Test-time scaling inference),Blackwell Ultra是基於先前的Blackwell架構,但採用效能更高的GB300 NVL72及HGX B300 NVL16。
其中GB300 NVL72採NVlink連接72個Blackwell Ultra GPU及36個Grace CPU,GB300 NVL72的AI效能比GB 200 NVL72高出1.5倍;而HGX B300 NVL16則比Hopper,運算效能提升7倍,而在大型語言模型的推理速度則提升11倍,記憶體也增加4倍,以因應較複雜的運算負載需要。
「AI已取得巨大的發展,推理及代理AI需要更多的運算效能,Blackwell Ultra可以高效地完成預訓練、後訓練、推理AI的推論」,黃仁勳說。
相較於傳統的LLM,產生的Token較少,對問題的回應容易出錯,推理模型能夠產生更多的Token,從而提高回應的準確性,但相對地也需要更大的運算效能,因此Nvidia強調Blackwell Ultra的效能有助於AI的擴展推理能力,可將複雜的問題拆解成多個步驟,探索不同的解決方式,來提高回應的品質。
除了有助於AI的推理能力發展,也有助於物理AI技術發展,像是即時生成擬真的影像,以大規模的訓練機器人、自駕車,Nvidia也在GTC中宣布將和美國的GM汽車在自駕車技術進行合作。
Blackwell Ultra預計在2025年下半年提供,Nvidia揭露思科、戴爾、HPE、聯想、華碩、富士康、技嘉、和碩、廣達等將推出相關系統,AWS、GCP、Azure等雲端服務業者將會提供運算服務。
考量到橫向擴充的需要,Blackwell Ultra未來可搭配Nvidia Spectrum-X乙太網路及Nvidia Quantum-X800 Infiniband,透過Nvidia ConnectX-8 SuperNIC,讓每個GPU的資料吞吐量達到800Gbps。
為加速推理AI技術,Nvidia也推出開源推理框架Nvidia Dynamo,針對部署數千個GPU的AI工廠,GPU間的溝通協調工作,將大型語言模型的處理、生成分派到不同的GPU,縮短回應時間,並且降低服務的成本。
Blackwell Ultra之後,Nvidia也如先前所承諾的,以一年一更新的步調,揭示未來兩年的產品籃圖,2026年下半年將推出Vera Rubin NVL144,效能為GB300 NVL72的3.3倍,記憶體容、頻寬、NVLink速度也有至少1.6倍的提升;接下來,2027年下半年將推出Rubin Ultra NVL576,效能比GB300 NVL72提高14倍,搭配NVLink7、CX9,大幅提升記憶體、頻寬速度。
針對物理AI,黃仁勳認為,物理AI將會驅動機器人、自駕車等科技快速發展,創造出新一波的機器人商機,其中人形機器人,不論在家庭生活協助或是工廠自動化生產,預期會有相當的需求。
因此Nvidia也釋出首個針對人形機器人的開放基礎模型,GTC釋出Isaac GR00T N1,這個模型標榜為目前全球第一個開放、可自訂的通用人形機器人推理及技能基礎模型,N1整合視覺語言模型及整合Transformer的擴散模型,讓機器人可接受sensor token(例如影像)及text token(語言命令),經過整合Transformer擴散模型處理後,產生action token,讓機器人採取行動。
該公司也和Google DeepMind、Disney Research聯手開發機器人引擎Newton,以星際大戰中的BDX機器人為模仿,該機器人的頭部及雙腳可以自主移動,不只是靜態的模擬畫面展示,現場也安排Newton機器人升上舞臺,即時與黃仁勳互動,這款只到成人大腿左右高度的機器人搖頭晃腦外,還能依照黃仁勳的指示,移動到指定的位置,描繪物理AI技術下,可與人類互動的人形機器人在生活中已不再遙遠。
熱門新聞
2025-03-17
2025-03-17
2025-03-18
2025-03-18
2025-03-17
2025-03-19