金管會正式發布金融業運用AI原則，放寬業者使用AI皆須人為判斷的一致性規範

金管會10月17日正式發布金融業運用人工智慧之核心原則與相關推動政策，包含6項核心原則及8項配套政策，金管會綜合規劃處處長胡則華說明原則相較草案的部分修正處，包含，修改業者使用所有AI工具時，都須進行人為判斷的原則，修正AI系統定義，和新增生成式AI定義。另外，8項配套政策並未進行修正。

這次發布的原則相較8月宣布的草案，共修正五處內容。草案中曾提及，金融機構如運用生成式AI協助進行決策，不宜將其產生的資訊作為判斷或決策的唯一依據。這條原則曾造成外界誤解，認為使用非生成式AI就可以作為判斷或決策的唯一依據，因此將該句刪除，改為金融機構使用AI應以風險為基礎做出適當決策和監督。胡則華解釋，由於金融業運用AI的案例不少，較為簡單的AI工具，如客服機器人，未必需要進行最後的人為判斷或決策，因此進行這項修正。

雖然不必在使用每個AI工具時，都進行最終人為判斷，金管會仍認為，金融機構最初在設計AI工具時，就要放入相關管控機制，因此，原則也要求金融機構在處理生成式AI產出資訊時，要就風險進行管控。此外，考量金融機構非使用AI時，也未必都能達到公平，因此，正式原則也放寬使用AI系統時，要確保對所有人公平的規定，改為要求金融機構盡可能避免演算法的偏見造成不公平。

金管會這次發布也放寬了金融機構運用AI系統向客戶提供金融服務時，應提供退出AI服務選項，或給予人工替代方案的規定，改為提醒客戶是否有替代方案即可。此外，針對使用生成式AI辦理業務時，應適當揭露的規定，胡則華說明，過往金管會制定這條規範，目的是讓金融機構在提供金融服務時，客戶能了解談話對象是AI，而非真人，不過，有業者反映，部分使用AI的業務是面向內部員工，因此，金管會修正這項原則，改為金融機構使用AI與消費者直接互動時，才應適當揭露。

此外，金管會也修改了原則中對AI的定義，改以經濟合作暨發展組織(OECD)的「AI系統」定義為準，並依據歐盟的人工智慧法草案，定義生成式AI為特別用以生成具有不同自主程度之文章、圖像、音訊或影片等內容的AI系統。