NVIDIA AI 軟硬體技術與平台力助桃園機場捷運 打造結合互動語音 AI 與虛擬分身「霏霏」實踐無人客服智慧車站

桃園大眾捷運股份有限公司(桃捷公司)為在車站實現以科技取代真人、提供更優質的服務和增強旅客體驗，率先在機場捷運系統的 A18 高鐵桃園站和 A20 興南站導入虛擬智慧站務人員「霏霏」。桃捷公司透過與台灣在地開發商喬泰科技合作，採用NVIDIA（輝達）的人工智慧（AI）軟、硬體平台和開發環境，並結合 NVIDIA 的技術諮詢服務 NVIDIA AI Enterprise打造了「霏霏」AI 語音客服系統。

桃園捷運站務中心主任謝明融表示：「當這個計畫構想成形以後，最重要的就是如何找到能達成我們想要效果的合作夥伴與技術，在公開徵選時喬泰科技提出了以 NVIDIA 為核心的整體運用技術，在經過了評選之後成為我們的夥伴，歷經了多次的討論與修正，終於讓虛擬站務人員「霏霏」呈現在大家的面前，成為我們桃園捷運旅客服務的重要里程碑。」

喬泰技術長黃祥麟表示：「我們在向桃園捷運提案時即提出 NVIDIA 的平台是實現這套需要同步整合 AI、邊緣運算、雲端運算與虛擬分身的首選。歸功於 NVIDIA 多元完善的軟、硬體資源與開發環境，團隊得以針對 AI 與系統整合進行優化，實現這套台灣首創的落地元宇宙應用。」

霏霏能如真人般與旅客進行實時互動，自動即時辨識中、英、日、韓四國語言的提問，正確回答旅客站務、票據、乘車資訊及週邊旅遊景點等相關諮詢。當受到嚴重噪音干擾或遇到無法解決的問題，霏霏在第一時間也能轉由真人客服提供服務，並同步將先前客服對話過程轉為文字敘述，便於真人客服快速釐清旅客問題。霏霏不僅是台灣第一套基於完整 AI 互動語音與虛擬分身（Avatar）的客服系統，也是首度將 AI 語音技術與真人後台結合的客服系統。為桃園機場捷運系統注入科技、年輕化、國際化，以及既簡易便利又高效率的新氣象。該服務建立在相比點選螢幕更為直覺的 AI 自然語音互動基礎上，而站務人力資源則能更加妥善分配至其他站務所應用。

霏霏背後的技術架構是採用分散式運算方式，將不同延遲需求的工作流適時分配給邊緣運算與雲端運算處理；邊緣運算使用的是 NVIDIA  GeForce RTX 3090 硬體系統，而雲端運算則串接到 Google Kubernetes (K8S) 平台，並結合 NVIDIA Triton 推論伺服器將霏霏邊緣系統所接收到的 AI 運算需求分流至邊緣系統與 K8S 平台。實際執行模式包括幾個重要程序：語言的輸入、語言的文字轉換、AI 語意理解與找尋問題的答案、結合虛擬分身與合成語音的解答。

霏霏是在人流量極大、環境噪音複雜的交通要點，需利用最新型降躁麥克風接收語音，並借助 NVIDIA Maxine SDK進行輸入語音降噪，使語音資料在進行文字轉化前更為乾淨、易於辨識，再把資料傳遞到基於 AI 的語音與語言模型神經網路模組進行語言理解，最後把輸出的回答結合 Unreal Engine 進行角色渲染與輸出。多項 NVIDIA 重要的自然語言技術是打造霏霏的核心，包括 NVIDIA Riva 語音人工智慧 SDK協助將旅客的談話辨識並轉化為文字、NVIDIA NeMo 大型語言模型（LLM）模型服務 做為霏霏提供自然應答的 AI 語言模型，利用 NVIDIA Triton 推論伺服器進行部署。為實現流暢的 AI 自然語言互動，以搭載 8 張 V100 GPU 的系統執行 NVIDIA NeMo Framework 進行 AI 語言模型訓練，將基礎模型與站務、票據與觀光資訊等相關的資料投入訓練。

霏霏率先證實以 AI 打造智慧車站客服平台系統的真實可行性，霏霏是一個極佳的車站 AI 化的開始，未來如霏霏這樣結合自然語言與虛擬分身的智慧服務系統也將陸續擴大至更多的大眾運輸系統，以提升大眾運輸系統的服務品質。結合 AI 運算的高效能 GPU 技術，同時針對各類 AI 應用率先提供開發者友善工具且不斷精進的 NVIDIA 軟硬體技術與平台，勢必將是引領此類智慧客服與虛擬分身應用的關鍵所在。