Nvidia發布開源工具套件AgentIQ Toolkit,讓開發者在現有架構快速整合多個人工智慧代理,並加速跨框架的代理系統開發與部署。該工具套件特別針對當前人工智慧應用日漸模組化、協作化的趨勢設計,透過將每個代理、工具與工作流程抽象為函式呼叫,讓開發者得以重用既有資源,靈活組合應用場景,而不需重新構建原有技術堆疊。

Nvidia強調AgentIQ無關框架的特性,可與包括LangChain、LlamaIndex、Crew.ai、Microsoft Semantic Kernel等市面上常見的代理框架並行運作,也能納入企業自建的Python代理模組。AgentIQ的出現並非要取代現有框架,而是以互補的方式切入,提供更完整的整合、觀測與效能分析機制。對已開始導入代理技術的企業而言,AgentIQ可成為具彈性的基礎設施選項,依專案規模與需求決定導入層級。

技術上,AgentIQ核心組件之一是內建的Profiler工具,能精細地遙測記錄每個代理與工具的輸入、輸出Token數、推理延遲與回應時間,並進一步辨識效能瓶頸,例如當特定代理在RAG檢索階段呼叫特定語言模型延遲過高,Profiler可協助找出問題點,評估是否需更換模型或調整提示詞設計。此外,AgentIQ也支援與OpenTelemetry相容的觀測平臺整合,方便系統管理人員即時監控與除錯整體流程。

AgentIQ提供一套可重用的代理與工作流程範例,開發者可直接透過Nvidia AI Blueprint開發RAG流程、數位人類溝通介面(Digital Human Communication Interface)或研究型代理應用。AgentIQ同時也相容於MCP(Model Context Protocol),可將經MCP Server提供的工具視為AgentIQ函式,進一步擴展工具使用範疇。

AgentIQ內建完整的評估機制,可針對RAG或端對端系統進行一致性測試,並快速評估工具或模型替換對整體結果的影響。這對於部署在企業環境中的多階段代理流程尤為重要,有助於持續改善回答品質與系統穩定性。

目前AgentIQ已在GitHub開源釋出,開發者可透過pip快速安裝,也可在本機建置Python環境進行測試。Nvidia預計還會在今年陸續新增多項功能,包括支援軟體工程場景的完整用例、NeMo Guardrails整合、與Dynamo合作的系統層級加速,以及資料回饋與強化機制等。

熱門新聞

Advertisement