永豐銀行資深副總經理 張升寶

「我還記得,金控科技長和我,一個、一個單位拜訪!」永豐銀行資深副總經理張升寶回憶。2020年,永豐銀行依循金控轉型策略,在行內開始推動AI。張升寶當時擔任綜合企劃處處長,為了說服各業務單位採用AI,和金控技術最高主管走遍了全行,「讓使用者了解AI、知道AI有哪些用處。」張升寶說。

大型企業推動AI並不是一件容易的事,光是說服業務單位接納新技術,就得花上不少心力,在永豐銀行推動AI多年的張升寶相當清楚背後的挑戰。

生成式AI爆紅後,拉近了非技術人員和AI間的距離。如今,員工只要在對話框輸入文字,就能直接和生成式AI互動,不再需要技術單位花時間費力解釋後,才會想用。

去年中,永豐銀行搭上生成式AI風潮,快速導入多項GAI工具和服務。不只將Copilot導入開發流程,今年更推出員工專用的GAI小幫手,能提供一般性問答與知識庫問答服務,前者用於日常文件翻譯、文案生成或文字摘要等;後者則透過對話方式協助員工檢索內部資料庫及文件,減少資料搜尋時間,增加員工生產力。而在行內員工通訊軟體中,也提供資料庫檢索、會議記錄重點摘要、翻譯或行銷內容生成等功能。

甚至,近期,永豐銀行更進一步推出面對顧客的GAI服務,提供顧客上千篇國內外新聞資料的市場資訊摘要,是臺灣第一批將GAI運用在對外服務的金融業者。

下一步,張升寶透露,內部正積極將生成式AI運用在風險管理、營運效率和特定的智能服務。這三類應用場景雖難以完全自動化,「但,這才是真正的GenAI未來,能發揮AI Agent(AI代理人)效益的場景。」張升寶強調:「AI Agent,是我們未來最重要的目標。」

他這一句話,點出了永豐銀行GAI的發展,希望能打造出更多善用AI代理人技術的應用,這正是今年開始崛起的代理型AI(Agentic AI)趨勢。

用RPA結合GAI,打造AI Agent應用

AI代理人最大的不同是,張升寶解釋,現階段的Chatbot應用,需要由使用者輸入一道道指令,才能完成任務,而AI Agent則能主動協助使用者完成任務,讓使用者只下一個指令,就能自動執行所有任務。

當AI Agent落地到銀行營運場景,「整段流程自動執行完成,不需要人工介入,就能真正從數位化走到智能化。」張升寶說道。

例如,永豐銀行的業務人員需要定期查看司法院公布的受監護、受輔助宣告名單,人工比對行內客戶名單。若發現有客戶處於受監護或輔助狀態,還需動手更新這些客戶資料。

由於這項業務涉及大量人工作業,永豐銀行原本導入RPA來加速作業流程。但是,RPA的能力有限,僅能自動篩出司法院公布的名單資訊,和自動更新客戶狀態,無法取代複雜的人工查找的判讀行為,因此,即便用了不少RPA協助,業務人員仍得手動比對司法院名單資訊和行內客戶資料。

永豐銀行最近開始運用GAI加速家事宣告中的查找任務,加速人工查找作業。「負責這項任務的同仁,只要按下執行鈕,就能完成查找作業。」張升寶說。這項人機協作案例,正是張升寶期望朝向的AI Agent應用形式。

面對GAI挑戰,永豐銀行先從三大策略著手

為了讓GenAI應用在永豐銀行百花齊放,張升寶計畫從單一應用起步,慢慢拓展至更多場景。除了查詢家事宣告名單,未來,張升寶期望將GAI運用在處理徵信報告,協助業務人員更快整理大量資料。

不過,張升寶坦言,要實現AI Agent目標,仍有一大段距離。例如,GAI要整合到至既有系統或流程時,「如何收集、整合、轉換銀行內大量且不同規格的數據,並有效訓練自己的模型,就是一大挑戰。」張升寶說。甚至,若要開發對外服務,還得進一步思考合規性。

銀行打造傳統AI應用時的開發焦點是建模,張升寶指出,如今,開發人員能直接使用雲端大廠提供的模型服務,打造生成式AI應用,建模不再是重要工程。「如何將GAI應用恰當連接周邊系統,才是關鍵。」張升寶說。甚至,如何找出適合導入GAI的業務場景,也是一大挑戰。

面對這些挑戰,永豐銀行不僅關注技術發展,更要建立適合快速發展GAI應用的環境。

開辦提示工程訓練課,培養全行員工GAI能力

首先,是培養全行員工學習生成式AI,讓業務人員能自主提出GAI應用場景。

去年下半年,GAI爆紅沒多久,永豐銀行一連舉辦多場提示工程訓練課,實體、線上同步進行,教導員工操作GAI工具,「全行近7千人都可以參加,高階經理也要來學。」張升寶回憶當時的盛況,一開放報名後,每一場都額滿。

今年,永豐銀行持續開設提示工程訓練課,從永豐金控董事、總經理及高階主管、業務高度相關人員,乃至全行員工,都要學習GAI基礎概念、實作提示工程,掌握生成式AI基礎概念。

「目標是『讓永豐人成為懂GAI的人』。」張升寶說道。不僅是認識技術,永豐銀行開設訓練課程的目標,更要讓員工學會撰寫提示,「有能力隨時不斷實驗不同想法,和進行測試。」張升寶說。

甚至,未來永豐銀行在招募人才時,也會將提示工程能力列為其中一項個人專業能力。

成立跨部門組織「數位幕僚」,提出GAI應用場景

培養員工了解GAI基礎概念後,永豐銀行第二步是,成立行內的跨部門組織,集合所有業務單位代表,共同提案討論GAI應用場景。

去年下半年,永豐銀行成立一個名為「數位幕僚」的跨部門組織,找來中臺部門和前臺產品部門人員,負責從業務中發想適合發展GAI的場景。

這個組織不僅是提出單一應用,還得思考如何將GAI應用嵌入既有系統和流程,提升銀行作業效率。這個數位幕僚團隊,正是永豐銀行讓GAI應用在行內遍地開花的關鍵組織。

成立專責開發團隊,加速全行發展GAI應用

目前,數位幕僚團隊提出的需求,仍得和一般AI需求並行處理,但這拖慢了GAI應用的發展。因此,永豐銀行的第三步策略,要成立專責GenAI開發團隊,協助全行打造GAI應用。

過往永豐銀行發展AI應用,主要由金控輔助開發,但張升寶指出,GAI應用必須整合至IT基礎設施中,才能讓GAI在營運場景中發揮最大效益。這個轉變,意味著第一線的銀行,未來將負擔更多GAI開發工作,促使永豐銀行決定成立專責開發團隊。

為了加速GAI應用落地普及,張升寶表示,AI應用開發團隊中,額外成立一支GAI應用開發團隊,專責開發數位幕僚的GAI需求,輔助全行發展GenAI。

 永豐銀組成跨部門專案團隊打造對外GAI服務 

去年下半年,永豐銀行開始舉辦提示工程訓練課程,不僅要讓業務人員瞭解GAI概念,更要讓業務人員動手撰寫提示,培養業務人員成為GAI應用開發主角。

在永豐銀行推的GAI應用中,有一項對外服務名為「投資水晶球」,能提供顧客上千篇國內外新聞資料的市場資訊摘要,正是透過行內專案團隊人員調整提示開發而成。

過往,永豐銀行內部AI專案,大多由金控技術單位負責開發。不過,永豐銀行在打造這款對外應用時,嘗試運用不同開發模式。

永豐銀行內部組成了跨部門的專案團隊,包括資訊處、財富金融處等單位,並和永豐金控、永豐投顧合作,共同完成開發。和一般對內GAI應用不同,這款服務並非由業務單位直接和開發團隊對接,而是由綜合企劃處負責專案執行。

在這項專案中,永豐銀行專案團隊採用提示工程進行開發,而專案中使用的提示,大多由專案團隊人員負責撰寫、調整,再由開發人員提供修改建議。

當專案團隊人員收到開發人員提供的初版提示,會先在員工專用GAI小幫手中,測試自己的提示詞,確認無誤後,再交由開發人員執行提示。這個過程會反覆執行,直到模型回應達到理想程度。溝通過程中,開發人員也會針對專案團隊人員的提示,提供修改建議,如增加參數限制。

另一方面,專案團隊每月都會進行專案會議,針對模型回應給予建議。除了匯集跨部門意見,專案團隊也會徵求法務意見,確保對外GAI服務合規性。

從產品發想到正式上線,專案團隊花了半年。永豐銀行也同步進行市場調查,收集超過8千條客戶意見,來了解市場接受度,甚至在產品上線前,還找來2千名客戶試用實測,確認滿意度後,才正式推出。

 CIO小檔案 

永豐銀行資深副總經理 張升寶

學歷:中山大學企管所碩士

經歷:在永豐銀行擁有30年資歷,擁有豐富前中後臺業務經驗,起初在行內從事外匯系統規畫維運,後來轉至國內業務通路單位管理業務推展,爾後於作業處負責全行作業營運規畫。四年前,他擔任綜合企劃處處長,推動永豐銀行擁抱AI,後來升任為資訊、數位及作業督導。

 公司檔案 

永豐商業銀行

●地址:臺北市中山區南京東路3段36號

●成立時間:2006年11月13日,永豐金控旗下的建華商業銀行與台北國際商業銀行合併,正式更名為永豐商業銀行

●主要業務:提供金融服務。擁有國內125家分行、國際金融業務分行,國外分支機構於香港、九龍、澳門、洛杉磯、胡志明市、河內,加上大陸地區子銀行共計11個據點

●員工數:約7,000人

●資本額:970億元

●資產總計:約2.5兆元

●年營收:2023全年合併稅後淨利為160.66億元

●董事長:曹為實

●總經理:莊銘福

 資訊部門檔案 

●部門主管職稱:資訊、數位及作業督導

●部門主管姓名:張升寶

●直屬主管:莊銘福

●部門人數:資訊處、作業處、數位金融處,客服中心,合計共1,254人

 數位大事記 

●2006年11月13日:永豐金控旗下的建華商業銀行與台北國際商業銀行合併,更名為永豐商業銀行

●2009年:啟動新核心系統轉換,於2012年完成

●2018年:啟動核心系統升級;同年推出Partner API

●2019年6月17日:推出數位存款帳戶「大戶DAWHO」,隔年3月推出獨立App

●2019年7月:同時完成機房搬遷與國內銀行核心系統升級;預計2021年完成海外分行與子行第一階段核心系統升級

●2019年底:上線API 管理平臺(APIM)

●2020年:推動生物辨識技術導入客戶服務及健全交易授權作業、結合AI + ROBOT技術,透過精密運算提供客製化之投資組合配置及預期未來資產報酬,提供完整投資理財目標設定及退休規畫服務

●2022年:擴大生物辨識技術導入客戶服務及健全交易授權作業範疇,持續導入多元身分認證機制,如FIDO、電信驗證(Mobile ID)、視訊驗證、行動自然人憑證及NFC感應自然人憑證/晶片金融卡等機制

●2023年:啟動生成式AI業務運用場景研發計畫,並依循金融業運用人工智慧指引相關規範,提供內部同仁與外部客戶創新服務、導入新世代網路銀行,整合網路及行動裝置服務

●2024年:永豐金GAI元年,開發員工專用GAI小助手「永豐雲Chat!」以提升生產力

熱門新聞

Advertisement