日本金融廳在今年3月初的日本金融科技周，發表了一份很有意思的討論文件報告，公布了日本130家金融機構的GAI運用現況。這是第一份來自日本官方的金融生成式AI調查，可以看到日本金融圈從去年開始積極擁抱生成式AI的盛況。
日本金融廳計畫在2027年放寬對於AI的監管力道，希望能促進金融科技的創新，因此，在去年10到11月之間展開這項調查，搜集到了超過50家銀行、20多家券商、15家保險業者，其他金融相關機構，如信用評等機構，放貸公司、支付機構等共130家金融企業的調查結果。日本金融廳彙整了這些公司使用生成式AI的運用情況，遇到的挑戰等。從這份報告中可以看到日本金融圈，如何大膽積極地擁抱生成式AI，相當值得臺灣業界和主管機關的參考。
從去年三大科技巨頭紛紛推出商用級GAI工具和產品後，許多企業不再問要不要用生成式AI，而是問要怎麼用生成式AI。2024年可說是生成式AI的實驗創新年，許多企業都展開了不同形式的PoC實驗。
日本金融圈更是積極，從調查中可以看到，超過8成5都開始用GAI，尤其有7成日本金融業開放員工任意運用，只有1成先開放給少數部門或高階主管。使用GAI已經是日本金融圈的常態。不只開始用，近4成的日本金融公司是越用越多、越深。
日本金融機構偏愛直接使用第三方提供的GAI服務，近7成企業用IT廠商或SaaS的GAI服務，企業自己要用開源LLM來客製專屬LLM約3成，當然，上述選項也有企業都有採用了這兩類作法。不少日本金融公司會依據用途來決定使用哪一種GAI服務，甚至同一個任務嘗試採用不同的GAI服務來比較。
去年生成式AI最流行的RAG（檢索增強生成）作法，正是日本金融機搆常見的GAI應用模式，超過8成機構已採用或準備要導入。他們會用LLM結合內部資料庫中的資料，來強化資料查詢能力。更有近4成日本金融機構要用或想用內部資料微調LLM。
想找出適合GAI發揮的場景，這是臺灣金融業者過去一年不斷嘗試、實驗的目標。我們來看日本金融機構怎麼做？多數日本金融機構先從內部業務優化開始導入GAI，約半數機構考慮未來用於面對顧客的服務。近一步細看這些場景，三大常見應用情境是摘要文件、翻譯、文件編輯和評估，超過7成日本金融公司去年就開始這樣用。特別的是，高達6成的日本金融業，大膽用生成式AI來產生決策文件的草稿，再由真人修改潤飾。
將GAI用於內部QA或資料檢索，這是臺灣去年常見的用法，但在日本金融圈，反而只有4成金融機構這樣做，預計今年才會有更多企業跟進。除了業務場景，也有4成日本金融機構已經用GAI來輔助系統開發和測試。日本金融公司這些主流應用場景所用的GAI，多數使用來自外部廠商的GAI，只有一成多的金融機構，靠自己的內部LLM模型來實作。
日本金融廳認為，目前這些用法多屬於基礎GAI應用，他們期待的進階GAI應用還在初期發展階段。像是有三個場景，AML/CFT（洗錢防制與打擊資恐）、預防市場操控、核保評估與信用風險管理等，這三項只有極少數導入GAI，但開始有少數日本金融機構正在準備中。
GAI讓金融圈常見的挑戰變得更困難，像是問責問題，AI偏差問題、模型風險管理、個資保護、資安等過去常見的課題，但也帶來了全新的挑戰，包括了幻覺和金融犯罪濫用GAI，金融穩定性挑戰。日本金融圈所遇到的GAI挑戰，不少也都是臺灣金融圈的課題，但是相較之下，日本金融圈更勇於先開始嘗試和運用GAI，反觀臺灣的金融業，多停留於PoC或實驗階段，只有少數積極創新者，大膽正式採用。
日本金融廳這份討論文件只是第一版，他們希望透過公布產業的GAI運用數據，來吸引各界的討論，希望搜集到更多對AI創新與監管的看法，並將在明年日本金融科技周發布第二版，作為調整AI監管政策的參考。這是一個蠻值得臺灣借鏡的作法，透過業界第一手調查，讓大家看到整個產業的科技創新現況和挑戰，不只是GAI，也可以運用到更多新興科技議題上。（更多詳細內容請見：日本金融圈如何大膽擁抱GenAI）
