Nvidia
近日在Computex舉行前夕,Nvidia在臺大體育館一場活動中展示一段2分鐘的數位孿生地球影片。影片中Nvidia執行長黃仁勳用標準的中文進行解說,不論是聲調、咬字發音相當到位,一點看不出來有什麼不尋常的地方。黃仁勳還不時在影片中穿插,根據講到的台詞或段落,做出相對應的動作。
影片播完後,黃仁勳才透露,影片中的口述完全是由AI(他自稱為Jensen AI)配音,他只負責編寫講稿,他還開玩笑反問現場參加者:「我(編按:Jensen AI)的國語講的標準嗎?」
這其實已不是黃仁勳第一次用AI替身出場,但在生成式AI快速竄紅後,許多企業開始將這種對話式GenAI能力帶進組織內部,為應用帶來革新。這也是黃仁勳整場演講的主軸,他大談了對生成式AI的觀察以及產業的衝擊,更揭露了未來Nvidia AI運算的發展藍圖。他特別提到臺灣在全球AI基礎架構建設中扮演的重要角色,並強調在臺灣擁有許多重要的合作夥伴。
資料中心就像是一座AI工廠,正在生成、創造、生產有價值的新商品
談到ChatGPT對於AI發展的影響,黃仁勳指出,ChatGPT出現前,AI的發展主要集中在感知和偵測領域,例如自然語言理解、電腦視覺以及語音辨識。ChatGPT問世後,生成式AI才開始受到廣泛重視。不同於以往的AI,生成式AI以Token為單位進行生成,這些Token可以生成多種形式,包括文字、圖片、圖表、表格、歌曲、語音和影片。甚至任何具有學習意義的事物,如化學物質、蛋白質、基因,或是在數位孿生地球Earth 2中生成氣象資訊,還可以用來生成汽車方向盤控制訊號、或為機器人手臂生成關節等有價值的事物,「我們學到的一切,現在都可以生成。」
黃仁勳進一步強調:「我們現在已進到生成式AI時代,而不是AI時代」,這樣的轉變也促使原有的超級電腦進化成以輸出Token為其唯一任務的資料中心。他形容這座資料中心就像是一座AI工廠,正在生成、創造、生產有價值的新商品。
他進一步解釋,這座AI工廠可以為每個產業生產新商品,帶來顯著價值,而且這個工廠自身可以彈性擴展和和快速複製,將許多不同GenAI模型運用到各行業。這使得工廠不再僅僅是用來儲存資料或進行資料處理,而是一個能為每個產業產生智慧的AI工廠,進而形成一個在製造過程中運用電腦的製造行業,不再以製造電腦為主,「這在以前從未發生過」黃仁勳這樣說道。
以生成式AI為契機,產值3兆的IT產業也能夠直接服務百兆產業
如同1890年發明的交流發電機開啟了電力時代,黃仁勳表示,Nvidia的AI生成器可以產生Token,具有和過去AC發電機一樣龐大潛在市場機會,幾乎可以徹底改變每個產業,這將帶來新的機會,以生成式AI為契機,「讓產值3兆的IT產業也能夠直接服務百兆產業。」他指出,從加速運算開始,促成了AI的發展,更催生了生成式AI的誕生,現在,正掀起一場新的工業革命。
生成式AI的崛起不只衝擊各產業,對於IT產業的影響也非常大。他特別提到,生成式AI驅動了全堆疊重塑,將傳統的軟體工廠轉變成AI工廠,涵蓋底層硬體、指令、檢索和工具層都因此改變。舉例來說,過去的運算模型是以檢索為導向,而未來會由生成模式取代。電腦將能生成大量內容,只檢索必要的訊息,這不僅需能夠節省能源,還能生符合上下文相關性的資訊。甚至在這樣的發展下,他說,電腦不再僅僅是一種工具,而是能夠生成技能並執行任務的裝置。
就像當年微軟推出套裝軟體顛覆了PC產業一樣,他表示,Nvidia針對新的AI工廠和新電腦中推出一種全新形式的軟體,即NIM(Nvidia Inference Microservice)。
NIM是一種容器化的推論微服務。在一個NIM容器中,包含了CUDA、cuDNN,以及提供推論服務的TensorRT LLM模型推論引擎和Triton推論伺服器。不僅如此,NIM採用雲原生架構,可以在Kubernetes環境中自動擴展,並提供AI監控管理工具和標準API。開發人員可以在裝有CUDA的電腦上部署NIM,然後像使用ChatGPT一樣與其對話。此外,NIM還支援400個經過認證的伺服器和工作站產品,而且可部署在不同的基礎設施上,涵蓋工作站、雲端到本地資料中心。
透過NIM,企業可以快速使用各種LLM和預訓練模型建立自己的AI應用,包含文字生成模型、影像生成模型,多模態模型等,以及各種專用領域的模型,像是健康醫療模型,數位生物模型,以及數位人類模型等。此外,NIM也針對Hugging Face平臺上最新大型語言模型Llama 3進行優化。
客服AI代理將是未來關鍵的GenAI應用
黃仁勳特別指出,客服AI代理將是未來關鍵的GenAI應用,各產業可以快速建立不同客服AI代理人,應對不同的客戶服務需求,如數位護士、數位客服和數位導師。這些代理人可以像護理師一樣,協助處理非處方或非診斷的患者照護服務,也能應對零售客戶服務、食品服務、金融服務、保險服務等各種需求。
他進一步說明,未來在AI應用服務中會有各種NIMs組成的AI代理,這些代理人可以協同執行任務。例如,有的NIMs會負責分配任務和擬定執行計畫,而其他的NIMs則會負責檢索資訊、進行搜尋,或者使用各種工具或執行SQL查詢。每個NIMs都是代表某方面的專家,這些NIMs會組成一個AI團隊的應用程式,「過去,應用程式是用指令編寫的,現在則轉變成了組建人工智慧團隊的應用程式。」他強調。
黃仁勳深信未來每家公司內部將擁有大量的NIMs。這些NIMS可以組成一個個團隊,企業只需將任務交給NIM代理人,來負責分配任務和執行計畫,甚至不必弄清楚如何連接它們,最後再將任務執行結果回報給企業,「就像人類一樣互動,這就是未來應用程式的樣貌。」他說,更大的願景是實現數位人類,讓應用程式也能像真人般互動。
ACE正是Nvidia用來發展數位人類一套技術,以統一運算框架為基礎,並提供軟體工具和API,讓開發人員可以製作出高度逼真和互動的虛擬分身。Nvidia最新推出了ACE NIMs,進一步將ACE整合進NIMs中,能夠在Nvidia加速基礎設施GDN部署和執行,可提供超過100個地區的低延遲處理。
ACE NIMs中包含了各種數位人類建立所需的NIMs。其中,Nemotron SLM和LLM NIMs負責用於理解使用者的意圖並協調其他模型,而Riva語音NIMs則用於互動式語音和翻譯。Audio2Face的NIMs用於生成臉部和身體動畫,至於Omniverse RTX與DLSS則用於生成皮膚和頭髮的神經渲染。
ACE不僅可以在雲端執行,也能在裝有RTX GPU的行動PC上執行。Nvidia表示,目前全球出貨高達1億臺內建GeForce RTX的AI PC,推出逾200款內建RTX的Al筆電,在RTX GPU中包含了Tensor Core,可提供高達700個TOPS的AI算力 。另外,在Computex 上,還有4款採用Nvidia GPU的AI PC將推出。
Nvidia還展示在RTX技術上的遊戲AI助手Project G-Assist,讓玩家可以在PC遊戲中以文字、語音,以及遊戲視窗的快照向遊戲助手詢問,來解答其在遊戲中所遇到的任何問題。
除了支援AI PC之外,Nvidia還揭露資料中心AI運算的發展藍圖,除了現有的Blackwell架構GPU外,Nvidia預告將在明年推出Blackwell Ultra,後年發表Rubin。不僅如此,Nvidia還進一步宣布將AI晶片的更新時程調快至每年一次,因應快速發展的生成式AI浪潮所需。
黃仁勳看好機器人應用將掀起下一波AI浪潮。他表示,這些機器人由生成式物理AI模型驅動,透過多模態大語言模型和強化學習模型,使得它們能夠學習、感知並理解周圍的世界,進而能夠制定執行計劃,以便能在現實世界中自動執行複雜任務。
他提到說,企業現今已可使用Nvidia AI超級電腦用於訓練物理AI模型,並使用Jetson Orin以及下一代Jetson Thor超級電腦用於執行這些模型推論。此外,還能透過Omniverse數位分身工具,讓機器人在模擬世界中持續精進其技能。
熱門新聞
2024-09-29
2024-10-01
2024-10-01
2024-10-01
2024-10-03
2024-10-01
2024-10-02