台新金控首度公開導入生成式AI的智能客服，提供理財投資建議和信用卡建議

隨著生成式AI浪潮來襲，台灣不少金融業也開始評估採用這項技術。目前，金融業試用生成式AI的場景以對內為主，例如法規查詢工具、開發輔助工具等，協助提升內部人員工作效率。由於生成式AI涉及資安議題，甚至有提供錯誤解答的可能性，考慮風險因素，金融業較少嘗試將生成式AI應用在客戶服務。不過，近期也有金融業者開始實驗在智能客服導入生成式AI，台新金控正是其中一家金融機構，是少數開始實驗生成式AI應用在對外服務的業者。

今年十月，台新金控揭露生成式AI進展。他們不只制定AI發展關鍵因子和AI導入指引，還發展4項實驗專案，包括協作平臺的聊天機器人Teams Chatbot、知識管理平臺、程式碼撰寫助理Codex，以及虛擬智能客服。近期，他們對外展示了其中一項實驗專案，兩個擬真客服人員，分別提供理財投資建議和信用卡建議。

台新金控表示，由於理財商品屬於公開資料，沒有客戶資料，較不具機敏性問題，因此優先選用信用卡建議和投資建議作為實驗項目。台新金控實驗的虛擬智能客服，並非僅使用微軟建置在雲端的模型，而是分別採用雲端模型和地端模型進行實驗，以了解各個業務場景適合使用的模型。

在理財投資建議AI客服人員中，是採用部署在雲端的模型。他們讓使用者與擬真客服人員對話，先使用JavaScript臉部辨識API預測使用者年齡性別，再結合運勢測驗，例如是否經常運動、如何面對被誤會的情況等，分析使用者投資意願和理財性格，綜合以上資訊生成投資建議。在提問過程中，使用者能以語音回覆，該客服工具會用Google Cloud Speech to Text API來辨識語音，轉換成文字後傳送至後端Azure OpenAI服務，來生成回覆內容。

後臺的運作方式是由團隊先將內部問題集和答案資料匯入Azure認知服務，當使用者對測驗題給予回覆，後臺會進行認知搜尋，先在文件內容建立嵌入（Embeddings），再由Azure Cognitive Search拆分查詢字串、請求最類似答案。最後，會由Azure OpenAI服務將答案組合、傳回前端，由虛擬客服給出回答。

而在提供信用卡建議的AI客服人員中，則是採用地端模型，當使用者向擬真客服人員提問後，會經過STT工具將語音轉文字，傳至模型生成回應，再透過TTS將文字轉語音，回應給使用者。

台新金控表示，即便Azure OpenAI服務提供的模型發展相對成熟，但金融服務需要注重資安問題，若業務涉及個資，可能得優先考慮使用部屬在地端的模型，因此在實驗階段也會觀察地端模型的可用性，協助未來評估生成式AI應用發展。