國泰金控宣布AIaaS戰略目標！首度公開生成式AI技術發展框架GAIA

國泰金控今日在自家技術年會上，正式宣佈AIaaS的戰略目標，不僅要以AI作為集團核心，驅動轉型和推出創新服務，同時，「期待國泰能成為提供AI金融服務的科技公司。」國泰金控數數發副總經理梁明喬說。在活動中，國泰金控首度公開生成式AI技術發展框架GAIA，也揭露了內部AI評測機制。

早在2018年，國泰金控就開始發展大數據，從打造大數據生態圈起步，逐步擴大金融生態系。到了今年，國泰金控宣布在數據發展上進入第三階段，將透過「AI Ready」、「AI Native」、「AI Empower」三大AI發展策略，實現AIaaS戰略目標。

首先，AI Ready是要打造集團統一技術發展框架，同步子公司間的策略和技術。梁明喬公開展示國泰AI發展藍圖，藍圖共分為六層，從下而上，底層為數據架構層，接著是多元數據源層、數據和AI治理層、核心技術模組層、應用場景層，最上層則為組織層。其中，因應集團發展生成式AI，國泰在核心技術模組層加入生成式AI開發框架GAIA，在數據和AI治理層則加入AI評測機制。

AI Native策略則是要將AI嵌入不同業務運作。為了實現這項目標，國泰金控今年設立了AI卓越中心，負責排序集團AI資源，和決策AI開發場景。目前，國泰金控鎖定四大GenAI場景，分別是員工、客戶、生產力，和AI基礎架構。其中，在員工場景中，國泰金控內部已打造一款AI員工助手平臺，可協助回應員工提出的業務問題。

最後一項策略，AI Empower，則是要提升集團全員工AI和雲端思維，除了要推動雲端轉型和成立AI專責組織，還要在集團擴大AI影響力。今年初，國泰金控和子公司成立AI專責單位，全集團共有近千名雲端、AI和數據專業人員，負責向全集團5萬名員工提供AI服務。

首度公開生成式AI技術發展框架GAIA

國泰金控開發的生成式AI開發框架GAIA包含三個主要模組，分別是知識庫、Model hub，和護欄。梁明喬指出，知識庫可協助降低AI幻覺問題，並且，「未來若要Finetune模型，或打造LLM模型的RAG架構，專屬知識庫就非常重要。」梁明喬說。

國泰金控展示的知識庫類型可分為對內和對外，對內包含HR知識庫、授信知識庫、洗防知識庫和內稽知識庫等，對外則包含貸款產品知識、壽險產險產品知識、理財產品知識等。

針對GAIA框架中的Model hub模組，梁明喬說：「Model Hub就是一個中央控制室。」這個模組不僅能提供多種模型選擇，包含雲端、地端、開源或閉源模型，也提供API接口，能介接各種服務。模組中也提供成本管理功能，能協助開發者管控模型使用開銷。

GAIA框架中還包含國泰金控自行開發的護欄模組，包含複合式規格護欄和多層抽換模組護欄，前者是在知識庫連接模型時進行資訊過篩，後者則是自建額外防護措施，例如提供業務專屬的業務護欄。

建立AI評測中心，確保AI從開發到上線都符合規範

除了公開成式AI技術發展框架，國泰金控今日也公開負責任AI策略。在治理面，國泰金控要建立AI評測中心，專責確保AI發展合規。技術上，國泰要將治理原則化為具體指標，並藉由評測工具確保AI從開發到上線都符合規範。

梁明喬表示，國泰的AI評測機制會以AI運用原則、生命週期和模型類型三大構面發展。首先，他們根據金管會金融AI指引的六大原則和數發部AI評測中心的十大評測項目，訂定評測項目。在AI模型生命週期中，國泰會使用評測工具檢核AI模型，最後產出評測報告。不過，梁明喬坦言，將治理原則化為量化指標並不容易，需要設立多種適當的情境和提問，才能有效檢測模型回應。

藉由國泰金控建立的AI評測機制，員工能在AI助手平臺檢視AI模型回應的公平性。（圖片來源：國泰金控）