Gogolook推出Roo AI，以生成式AI技術打造AI智能問答服務，不只回答在地化金融商品資訊，還能根據提問提醒用戶小心詐騙

3年前Gogolook推出了名為貸鼠先生的金融諮詢服務，可協助消費者辨識網路上各種真假難辨的金融商品資訊，減少詐貸等問題，3年後，該平臺每月活躍用戶數成長達2百萬人，還完成了逾1萬人次的一對一真人線上諮詢及5萬件貸款媒合。

為了提供更多元金融商品諮詢服務，該公司今天（4/25）不只宣布以「袋鼠金融」作為新品牌名稱，更推出以ChatGPT的生成式AI技術為基礎打造的全新AI智能問答服務「Roo AI」，不只能讓生成內容貼近臺灣消費者金融知識與提供更正確資訊，甚至是可以從用戶提問內容中找出可能導致用戶受騙的資訊加以提醒，小心不要被騙！雖然目前還是Beta版本，使用者已能使用該問答服務。

Gogolook共同創辦人暨執行長郭建甫表示，平臺正式更名為袋鼠金融後，除了擴大服務範圍，可提供從信貸、信用卡、數位帳戶、到證券、理財相關一站式多元的金融知識服務，也將透過結合不斷進步的AI相關知識，希望建構一個更開放創新的平臺，讓用戶可以在這裡互動、持續學習，為各個不同階段的用戶，找到最適合其個人的金融知識與商品，朝普惠金融之路邁進。

Gogolook在袋鼠金融平臺所打造第一個生成式AI應用，就是在真人線上客服之外，開始透過生成式AI提供金融商品知識問答服務， 「運用生成式AI技術，讓我們可以站在巨人的肩膀上，打造臺灣本土首款的金融商品問答服務。」郭建甫這樣說。

去年11月底ChatGPT發表後，Gogolook團隊12月就展開評估，然後決定投入研發，並花了3個多月完成開發。一開始Gogolook測試過了許多LLM模型，包括GPT-2、GPT-3.5、GPT-4和中研院國產版本等，最後決定使用3.5版GPT模型來打造自己的金融版ChatGPT。

但是，ChatGPT過去經常被人發現給出錯誤或不正確的答案，而且使用資料庫數據也不是最新數據，為了避免這種情況出現在Roo AI身上，因此，研發團隊使用了自己建立的資料庫作模型訓練，搭配GPT語意模型，來訓練自己的LLM模型，一共使用了超過1千篇、累積400萬字的金融文章和200多項金融商品資訊訓練模型，以便讓生成內容能夠符合臺灣消費者金融需求的回答。

目前企業使用ChatGPT技術時，主要有fine-tuning 和Embedding兩種做法來訓練自己的LLM模型，Gogolook同時結合兩種方式打造Roo AI問答模型。

流程上，使用者輸入問題後，會先從金融知識資料庫中來比對搜尋，找出能夠匹配這個問題的相關文本內容，接著會連同提問文字以向量形式進行處理，再輸入到GPT模型上進行內容生成，再將生成結果搭配參考資訊回傳給使用者。研發團隊使用嵌入式文字匹配技術，建構出一個Roo上下文分析器，可以根據輸入問題找出匹配文本內容，再一起放進GPT模型生成內容，以此來提升生成內容的正確性，因為使用本地金融資料庫，也讓生成結果更貼近臺灣用戶金融需求。

除了使用GPT 3.5模型生成回覆內容之外，在前期提問文字處理上，他們也使用BERT的NLU語言模型，用於處理斷詞、關鍵字進行語意分類和描述，甚至還用它來預先過濾提問中可能包含的一些不當或非法詞彙，例如「我要買炸彈需要一些信用卡推薦」，就會在後續回覆加註警示。即使是通過第一層NLU模型的過濾，之後進到ChatGPT後，還有另一道過濾機制，是透過事前Prompt的設定，來限制ChatGPT回答，避免給出有問題或危害的答案。

袋鼠金融Roo.Cash產品負責人劉睿哲表示，他們還打造一套內容回覆品質分數系統，這套系統會根據每次用戶問題的回答，给予不同高低分數的評價， 除了會用來作為後續模型調校， 針對評價為高分的回答，下一次遇到相同或類似提問時，就能直接套用先前獲得高分的內容回覆。他表示，目前每月有超過一千次以上模型微調 ，讓它在金融商品問答表現更好。

他們內部比較了在同一個問題下，使用Roo AI和GPT-4模型作答的表現，結果Roo AI不只能提供更即時且正確的金融商品資訊，甚至也可以從用戶提問的內容中，找出可能是詐騙或不實的可疑資訊，再回覆問題時加註提醒用戶，小心不要被騙。例如當使用者提問：「某家業者的青年創業貸款代辦服務是否為詐騙？」Roo AI除了提醒代辦業者提出高額代辦費用可能是詐騙外，也建議提問者找正規金融業者申辦，避免受騙。相較之下，GPT-4模型並無法給出具體建議和指引。

不過使用者向Roo AI提問時，平均需等待30秒到1分鐘左右才能收到回覆。不過目前這項服務還只是beta版，有使用次數限制，每位用戶一天提問最多不能超過10次。Gogolook表示，未來將透過用戶回饋持續調校優化LLM模型。

除了金融AI問答服務，Gogolook未來也將透過Roo AI推出無障礙金融服務，提供視障者的語音轉文字和文字轉語音功能。