Nvidia揭露2025年Agentic AI戰略，不只建構三層式架構助企業加速應用落地，還要建立代理型AI生態系

在今年CES大會主題演講上，Nvidia首度揭露自己的Agentic AI（代理型AI）新戰略，還舉了Agentic AI最新4種代理能力的應用場景，輔助研究、虛擬實驗室模擬、軟體安全輔助，以及影像分析AI代理。

AI Agent可扮演一位研究助手，幫用戶閱讀pdf等格式文件並以Podcast形式互動，也能化身軟體安全專家，進行漏洞掃描並提供防護建議，還是研究人員的重要幫手，提供化合物設計與篩選，更像是一名專業的影像分析專家，可協助異常事件偵測與改善作業流程。

「Agentic AI的時代已經到來，成為企業工作流程中的重要環節」 Nvidia執行長黃仁勳在演講中強調。

近兩年，GenAI（生成式AI）快速竄起，成為最火紅的企業IT技術之一，隨著GenAI技術越來越成熟，應用範疇更從GenAI走到Agentic AI應用。不只是GCP、Azure、AWS等雲端大廠先後提出自己的Agentic AI戰略，搶攻企業端應用，AI晶片龍頭Nvidia也緊跟在後，揭露其Agentic AI新戰略。

Agentic AI指的是一套多模型（multi-model）系統，由多種功能模型組成，處理不同任務。它能將任務拆解為一個個Task，通過資料檢索、工具操作、計算機運算或GAI生成圖表等，提供高品質的回應。同時，Agentic AI持續對這些模型進行迭代與優化，不斷提升回應的準確性與效率。

黃仁勳指出，Agentic AI的一大特色是，將使得AI的回應不再局限於單純的問答模式，而是依靠多個模型在背後同步運作，進行更精細的計算推理，因此，在推理過程中採用測試時間擴展（Test-time scaling） 機制，提供更高品質的回答，就很重要。「Test-time scaling的最佳實例就是Agentic AI應用。」他說。

他表示，Nvidia的Agentic AI策略， 專注於與IT領域的軟體開發商合作，構建生態系統以及整合技術，協助開發者和企業實現全新的Agentic AI功能與應用。他強調，過去Nvidia的GPU倚賴CUDA加速函式庫來加速運算處理，未來針對AI Agent需求，Nvidia也會有AI專用函式庫，架構在CUDA加速庫之上，為開發者與企業提供更完整的技術支持。

Nvidia Agentic AI應用開發三層式架構

瞄準企業Agentic AI應用需求，Nvidia在今年CES大會中提出了Agentic AI應用開發三層式架構軟體堆疊，協助企業快速實現應用落地，壯大Agentic AI生態系。

Nvidia的Agentic AI架構是以區塊為基礎，最底層是模型預訓練的AI微服務NIM。NIM將GenAI執行所需的模型和軟體進行優化與封裝，並部署於任一環境中。這些微服務涵蓋多種AI模型，例如視覺模型、語言理解模型、語音模型（用於動畫）、數位生物學模型，以及最新的物理AI模型等。

再上一層是NeMo框架，類似數位員工養成的Pipeline，讓Agentic AI能夠擔任多種工作角色，例如創作者、客製化者、評價者、守護者，以及RAG 檢索者，實現多樣化的應用場景。

為了讓Agentic AI具備特定領域的專業技能與知識，Nvidia採用類似員工培訓的方式，對Agentic AI數位勞動力進行優化。經過培訓的Agentic AI能代理多種工作角色，包括輔助研究助手、虛擬實驗室AI、軟體安全專家、影像分析師、AI銷售代表、客服人員、金融分析師、員工支援以及工廠運維管理者等，滿足各行業的多元需求。

舉例來說，AI Agent可以扮演一位研究助手，可以幫你閱讀pdf等格式檔案，例如講稿、期刊、財務報告，並產生一個互動的podcast，並進一步生成互動式Podcast，讓使用者能以更直觀的方式學習與閱讀。

軟體安全專家AI Agent可為開發者提供安全防護支援，透過漏洞掃描、自動發送警示以及提供防護建議，強化整體軟體安全性。虛擬實驗室 AI Agent 成為研究人員的重要幫手，能夠快速設計並篩選數十億種化合物，大幅縮短尋找候選藥物的時間。

影像分析AI代理則是基於Nvidia Metropolis藍圖 ，整合Nvidia Cosmos、Nemotron視覺語言模型、Llama Nemotron LLM和MeMo Retriever 等，能快速分析攝影機的數據，每天生成高達10萬TB的影片內容。Metropolis代理可以應用到不同場景，例如在工業場域中，可以用來監測作業流程並提供改善建議，同時從數據中偵測異常情況，調整工作者或機器的路線，協助避免意外事件的發生，提升生產效率與安全性。

Nvidia提出Agentic AI最後一層是數位AI代理人藍圖，Nvidia提供多種開放原始碼藍圖，開發者可直接修改與擴展，用於建構特定領域的AI代理應用。在該藍圖中提供開發人員各種代理AI構建模組，包括CrewAI、Daily、LangChain、LlamaIndex和Weights & Biases等，協助其建立下一代Agentic AI應用。

除了合作夥伴藍圖之外，Nvidia還推出了自己的全新AI藍圖，例如可將PDF轉換為Podcast，以及用於建立影片搜尋和摘要的AI代理程式。另外還有四款Omniverse藍圖，讓開發人員可以更容易建立用於模擬的數位孿生應用。

Nvidia發布了一系列基於LLaMA微調的Nvidia LLaMA neotron語言基礎模型家族 ，提供Nano、 Super 、Ultra三種不同模型 ，對應到不同任務，例如Nano模型兼具成本效益和更快反應速度，可用於PC或邊緣裝置，還有具備更高準確度和運算效率的Super模型，以及Ultra模型，用來執行資料中心規模的AI應用。

黃仁勳表示，企業AI代理將成為AI工廠的核心驅動力，這些工廠將通過生成Token，為各行各業帶來前所未有的智慧化與生產力提升。

企業IT部門將轉型為類似Agentic AI的HR部門

黃仁勳特別看好Agentic AI在軟體行業的應用，並認為下一個人工智慧服務的重要時刻將是軟體，這是所有開發者都需要的基礎。他甚至預測，Agentic AI有潛力成為下一個機器人產業的關鍵應用，創造兆億美元的商機。

不僅僅是應用在軟體行業，隨著AI Agent應用逐漸成熟，也將影響企業內部IT的運作模式。黃仁勳表示：「企業IT部門將轉型為類似Agentic AI的HR部門。」他進一步解釋，過去 IT 部門主要負責管理和維護大量來自IT行業的軟體，而未來的重點將轉向維護、培養和優化數位代理，並將它們應用於企業內部，提升運營效率。

更進一步，黃仁勳指出，Agentic AI的下一步是邁向物理AI（physical AI），他介紹了Nvidia的全新平臺Cosmos，這是一個專為物理AI開發而設計的平臺，利用一系列世界基礎模型（World Foundational Models, WFM）來進行模擬和預測物理互動。

黃仁勳表示，這些模型不僅讓人工智慧能夠處理感官數據，還能做出行動決策，幫助開發者打造下一代機器人和自動駕駛汽車，加速推動物理AI的應用發展。