三菱UFJ銀行的AI團隊先利用人工設計的提示詞來萃取關鍵數據,成功提升關鍵數據萃取的能力後,團隊再進一步人工介入審查生成結果,並手動調整生成內容。接著,團隊開始發展出一套持續改進提示詞的流程,稱為GenAIOps流程,透過蒐集客戶的正反面回饋,AI團隊成員會深入了解 AI 輸出與期望成果之間的差距。再來,團隊根據分析結果手動優化提示詞和 RAG 工程,以縮短 AI 生成內容與期望成果的差距。最終目標則是達到以AI自動升級提示詞和RAG工程。(圖片來源:AWS)

近日,日本三菱日聯銀行(三菱UFJ銀行)在一場活動上揭露內部如何運用生成式AI提升向企業客戶銷售產品的效率,並且,透過一步步加強應用功能,三菱UFJ銀行的AI/ML團隊慢慢發展出一套GenAIOps流程。

三菱UFJ銀行AI/ML團隊負責人堀金哲雄表示,內部從今年開始發展一個專門提供給全球市場業務部門使用的GenAI平臺,要用生成式AI,加速該業務部門人員整理和研究企業客戶資料,協助生成企業報表資料,或趨勢分析草稿等任務。

三菱UFJ銀行全球市場業務,主要協助企業客戶分析金融風險,提供一套顧問服務。這個業務團隊超過2,000名人,服務範圍涵蓋全球100萬名企業客戶。堀金哲雄解釋,這項業務的銷售人員為了協助客戶制訂有效的風險控管措施,往往需要耗費大量時間分析數百、甚至上千頁文件,才能深入了解不同客戶應對的金融市場風險,「可能要花上數小時,甚至數十天的時間。」堀金哲雄也提到,這是一個高度依賴技能的作業流程,「需要多年的經驗才能制訂出合適的解決方案。」

為了提高業務員閱讀速度,三菱UFJ銀行AI團隊第一步,先用GenAI快速從PDF和HTML檔案萃取出關鍵資訊。不過,堀金哲雄表示,直接將原始檔案匯入LLM會增加不少處理成本,「特別是HTML檔案中包含許多重要性不高的標籤資訊。」團隊開發了一套數據處理管道,能在檔案匯入 LLM 前自動移除低關聯性的標籤,成功提高萃取關鍵數據的能力。

第二步,是要協助銷售人員能共享彼此的想法或邏輯,並生成趨勢分析草稿。在這個步驟中,AI團隊和業務銷售團隊合作撰寫提示詞,不僅如此,三菱UFJ銀行的AI團隊也打造了一個Chatbot,讓銷售人員隨時都能測試提示詞。「業務人員和開發者之間密切合作非常重要,GenAI不僅僅是技術人員的工具,它應該為每個人服務。」堀金哲雄強調,由於銷售人員非常繁忙,因此提供一個易用性高的工具,對於加速業務和技術人員協作提示工程十分重要。

完成前兩項步驟後,這項應用已經能協助銷售人員統整資訊和生成草稿。但是,三菱UFJ銀行的AI團隊仍持續提升這項應用的能力。

堀金哲雄表示,為了持續改進提示詞,三菱UFJ銀行的AI團隊主要蒐集兩種數據,一種是銷售人員和AI間的對話紀錄,另一種是實際提供給企業客戶的簡報,以及來自客戶的回饋。透過整合這些資料,三菱UFJ銀行的AI團隊持續比對AI生成結果和實際展示給客戶的結果,再根據觀察的結果來改進提示詞。這套反覆改進提示詞的過程,也被堀金哲雄稱為GenAIOps流程。

堀金哲雄表示,目前團隊仍是採用人工的方式檢驗 AI 生成內容與期望成果的差距,「但我們的目標是盡可能實現自動化,以協助銷售人員減少更多時間。」目前,三菱UFJ銀行的AI團隊為全球資本市場業務開發的GenAI應用,能在10到20秒內回應銷售人員的提問,同時提供單一企業的趨勢分析和報表資訊。相比過往銷售人員需要數小時到數天準備單一企業客戶的資料,用來撰寫趨勢分析文件,如今,銷售人員平均只需要1至2分鐘,就能單一企業客戶的趨勢分析文件草稿。

三菱UFJ銀行為全球資本市場業務銷售人員開發的GenAI平臺名為Marketing DX,使用者只需選擇公司名稱、分析類型以及一些前瞻性數據,平臺左側就會顯示 AI 的輸出結果。使用者也可輸入問題,AI能在 10 至 20 秒內給出答案。(圖片來源:AWS)

熱門新聞

Advertisement