Nvidia執行長黃仁勳：客服AI代理將是未來關鍵的GenAI應用，更大的願景是實現數位人類，讓App也能像真人般互動

近日在Computex舉行前夕，Nvidia在臺大體育館一場活動中展示一段2分鐘的數位孿生地球影片。影片中Nvidia執行長黃仁勳用標準的中文進行解說，不論是聲調、咬字發音相當到位，一點看不出來有什麼不尋常的地方。黃仁勳還不時在影片中穿插，根據講到的台詞或段落，做出相對應的動作。

影片播完後，黃仁勳才透露，影片中的口述完全是由AI（他自稱為Jensen AI）配音，他只負責編寫講稿，他還開玩笑反問現場參加者：「我（編按:Jensen AI）的國語講的標準嗎？」

這其實已不是黃仁勳第一次用AI替身出場，但在生成式AI快速竄紅後，許多企業開始將這種對話式GenAI能力帶進組織內部，為應用帶來革新。這也是黃仁勳整場演講的主軸，他大談了對生成式AI的觀察以及產業的衝擊，更揭露了未來Nvidia AI運算的發展藍圖。他特別提到臺灣在全球AI基礎架構建設中扮演的重要角色，並強調在臺灣擁有許多重要的合作夥伴。

資料中心就像是一座AI工廠，正在生成、創造、生產有價值的新商品

談到ChatGPT對於AI發展的影響，黃仁勳指出，ChatGPT出現前，AI的發展主要集中在感知和偵測領域，例如自然語言理解、電腦視覺以及語音辨識。ChatGPT問世後，生成式AI才開始受到廣泛重視。不同於以往的AI，生成式AI以Token為單位進行生成，這些Token可以生成多種形式，包括文字、圖片、圖表、表格、歌曲、語音和影片。甚至任何具有學習意義的事物，如化學物質、蛋白質、基因，或是在數位孿生地球Earth 2中生成氣象資訊，還可以用來生成汽車方向盤控制訊號、或為機器人手臂生成關節等有價值的事物，「我們學到的一切，現在都可以生成。」

黃仁勳進一步強調：「我們現在已進到生成式AI時代，而不是AI時代」，這樣的轉變也促使原有的超級電腦進化成以輸出Token為其唯一任務的資料中心。他形容這座資料中心就像是一座AI工廠，正在生成、創造、生產有價值的新商品。

他進一步解釋，這座AI工廠可以為每個產業生產新商品，帶來顯著價值，而且這個工廠自身可以彈性擴展和和快速複製，將許多不同GenAI模型運用到各行業。這使得工廠不再僅僅是用來儲存資料或進行資料處理，而是一個能為每個產業產生智慧的AI工廠，進而形成一個在製造過程中運用電腦的製造行業，不再以製造電腦為主，「這在以前從未發生過」黃仁勳這樣說道。

以生成式AI為契機，產值3兆的IT產業也能夠直接服務百兆產業

如同1890年發明的交流發電機開啟了電力時代，黃仁勳表示，Nvidia的AI生成器可以產生Token，具有和過去AC發電機一樣龐大潛在市場機會，幾乎可以徹底改變每個產業，這將帶來新的機會，以生成式AI為契機，「讓產值3兆的IT產業也能夠直接服務百兆產業。」他指出，從加速運算開始，促成了AI的發展，更催生了生成式AI的誕生，現在，正掀起一場新的工業革命。

生成式AI的崛起不只衝擊各產業，對於IT產業的影響也非常大。他特別提到，生成式AI驅動了全堆疊重塑，將傳統的軟體工廠轉變成AI工廠，涵蓋底層硬體、指令、檢索和工具層都因此改變。舉例來說，過去的運算模型是以檢索為導向，而未來會由生成模式取代。電腦將能生成大量內容，只檢索必要的訊息，這不僅需能夠節省能源，還能生符合上下文相關性的資訊。甚至在這樣的發展下，他說，電腦不再僅僅是一種工具，而是能夠生成技能並執行任務的裝置。

就像當年微軟推出套裝軟體顛覆了PC產業一樣，他表示，Nvidia針對新的AI工廠和新電腦中推出一種全新形式的軟體，即NIM（Nvidia Inference Microservice）。

NIM是一種容器化的推論微服務。在一個NIM容器中，包含了CUDA、cuDNN，以及提供推論服務的TensorRT LLM模型推論引擎和Triton推論伺服器。不僅如此，NIM採用雲原生架構，可以在Kubernetes環境中自動擴展，並提供AI監控管理工具和標準API。開發人員可以在裝有CUDA的電腦上部署NIM，然後像使用ChatGPT一樣與其對話。此外，NIM還支援400個經過認證的伺服器和工作站產品，而且可部署在不同的基礎設施上，涵蓋工作站、雲端到本地資料中心。

透過NIM，企業可以快速使用各種LLM和預訓練模型建立自己的AI應用，包含文字生成模型、影像生成模型，多模態模型等，以及各種專用領域的模型，像是健康醫療模型，數位生物模型，以及數位人類模型等。此外，NIM也針對Hugging Face平臺上最新大型語言模型Llama 3進行優化。

客服AI代理將是未來關鍵的GenAI應用

黃仁勳特別指出，客服AI代理將是未來關鍵的GenAI應用，各產業可以快速建立不同客服AI代理人，應對不同的客戶服務需求，如數位護士、數位客服和數位導師。這些代理人可以像護理師一樣，協助處理非處方或非診斷的患者照護服務，也能應對零售客戶服務、食品服務、金融服務、保險服務等各種需求。

他進一步說明，未來在AI應用服務中會有各種NIMs組成的AI代理，這些代理人可以協同執行任務。例如，有的NIMs會負責分配任務和擬定執行計畫，而其他的NIMs則會負責檢索資訊、進行搜尋，或者使用各種工具或執行SQL查詢。每個NIMs都是代表某方面的專家，這些NIMs會組成一個AI團隊的應用程式，「過去，應用程式是用指令編寫的，現在則轉變成了組建人工智慧團隊的應用程式。」他強調。

黃仁勳深信未來每家公司內部將擁有大量的NIMs。這些NIMS可以組成一個個團隊，企業只需將任務交給NIM代理人，來負責分配任務和執行計畫，甚至不必弄清楚如何連接它們，最後再將任務執行結果回報給企業，「就像人類一樣互動，這就是未來應用程式的樣貌。」他說，更大的願景是實現數位人類，讓應用程式也能像真人般互動。

ACE正是Nvidia用來發展數位人類一套技術，以統一運算框架為基礎，並提供軟體工具和API，讓開發人員可以製作出高度逼真和互動的虛擬分身。Nvidia最新推出了ACE NIMs，進一步將ACE整合進NIMs中，能夠在Nvidia加速基礎設施GDN部署和執行，可提供超過100個地區的低延遲處理。

ACE NIMs中包含了各種數位人類建立所需的NIMs。其中，Nemotron SLM和LLM NIMs負責用於理解使用者的意圖並協調其他模型，而Riva語音NIMs則用於互動式語音和翻譯。Audio2Face的NIMs用於生成臉部和身體動畫，至於Omniverse RTX與DLSS則用於生成皮膚和頭髮的神經渲染。

ACE不僅可以在雲端執行，也能在裝有RTX GPU的行動PC上執行。Nvidia表示，目前全球出貨高達1億臺內建GeForce RTX的AI PC，推出逾200款內建RTX的Al筆電，在RTX GPU中包含了Tensor Core，可提供高達700個TOPS的AI算力 。另外，在Computex 上，還有4款採用Nvidia GPU的AI PC將推出。

Nvidia還展示在RTX技術上的遊戲AI助手Project G-Assist，讓玩家可以在PC遊戲中以文字、語音，以及遊戲視窗的快照向遊戲助手詢問，來解答其在遊戲中所遇到的任何問題。

除了支援AI PC之外，Nvidia還揭露資料中心AI運算的發展藍圖，除了現有的Blackwell架構GPU外，Nvidia預告將在明年推出Blackwell Ultra，後年發表Rubin。不僅如此，Nvidia還進一步宣布將AI晶片的更新時程調快至每年一次，因應快速發展的生成式AI浪潮所需。

黃仁勳看好機器人應用將掀起下一波AI浪潮。他表示，這些機器人由生成式物理AI模型驅動，透過多模態大語言模型和強化學習模型，使得它們能夠學習、感知並理解周圍的世界，進而能夠制定執行計劃，以便能在現實世界中自動執行複雜任務。

他提到說，企業現今已可使用Nvidia AI超級電腦用於訓練物理AI模型，並使用Jetson Orin以及下一代Jetson Thor超級電腦用於執行這些模型推論。此外，還能透過Omniverse數位分身工具，讓機器人在模擬世界中持續精進其技能。