資安院首度發表AI打詐技術，詐騙廣告偵測率超過九成

打詐是臺灣政府新內閣首要任務，也是民眾生活最大痛點之一。為了解決這個問題，數發部數位產業署委託資通安全研究院研發，他們期盼透過運用AI技術，從源頭做到「識詐」、「防詐」以遏止詐騙橫行。資安院副院長林盈達表示，從今年1月開始執行的廣告自動化巡檢技術，每個月可以檢測超過50萬筆廣告，一旦偵測到詐騙廣告，會進行後續通報。他表示，今年五月詐騙廣告數量超過20萬筆創下新高，資安院採用AI偵測詐騙廣告的準確度達93％，而在這個巡檢的過程中，他們也發現97％詐騙廣告刊登不到兩天，顯示相關的阻擋機制必須跟時間賽跑，因為處理時機稍縱即逝。
數位部政務次長林宜敬則表示，數位部目前也積極規畫「打詐通報查詢網」，預計三個月內正式上線，該網站之所以設立，是為了便利民眾通報並查詢各種可疑廣告資訊，當中也會顯示被檢舉詐騙廣告的處理進度，讓一般民眾參考。
面對現在最常見的假冒名人投資的詐騙廣告，林宜敬指出，數位部將規畫出最妥善的SOP，在與名人求證與下架冒名詐騙廣告的效率中，取得平衡點。
資安院前瞻研究籌獲中心代理經理江禹賢表示，根據廣告自動化巡檢的資料，遭到詐騙集團冒用數量最高的名人是486先生（陳延昶），詐騙集團也會因應熱門時事，冒用不同名人、投放名人投資詐騙廣告，先前輝達公司執行長黃仁勳訪臺時，偽冒黃仁勳的名人詐騙投資廣告數量便暴增，而在資安院的偵測並進行通報的處理之下，各個平臺的詐騙廣告下架率高達九成。
97％的詐騙廣告刊登天數不到兩天，詐騙是關鍵字第一名
江禹賢表示，從今年1月開始，資安院開始利用廣告自動化巡檢技術，偵測網路廣告是否為詐騙廣告，迄今發現，詐騙廣告數量每個月增加超過6萬筆，截至5月為止，更有超過二十萬筆詐騙廣告，創下新高。
細究這類網路詐騙廣告的特色，江禹賢指出，97％的詐騙廣告只會刊登不到兩天，只刊登1天的詐騙廣告更是主流，而目前偵測到刊登最多天數的詐騙廣告，長達33天。
他也解釋，目前只要偵測到詐騙廣告，就會跟各個平臺業者進行通報、下架，所以廣告刊登的天數，並不等於實際曝光的天數。若進一步分析詐騙廣告的內容，以五月（1日至24日）的統計發現，將近3成是高風險廣告，所謂的高風險廣告，是指假投資群組、偽冒名人，以及加入Line群組連結的廣告。
他進一步解釋，從今年1至4月間，詐騙廣告關鍵字排行榜第一名的就是「詐騙」，詐騙在假投資廣告存在的次數高達8萬多次，而且這些詐騙廣告都會強調「不是詐騙」或「追回詐騙」來吸引民眾相信；至於關鍵字第二至五名則是股票池、反彈暴漲、當沖技巧，以及龍頭股。
林盈達表示，目前資安院使用的廣告自動化巡檢技術，就是透過AI技術偵測，檢查關鍵字、貼文型態、出處、以及Line連結是否被動過手腳，目前準確度高達93％，每天可以偵測5千至1萬則詐騙廣告匯入資料庫，相關的清單也會提供給各個平臺業者。
林盈達補充說明，現在偵測詐騙廣告已經不是問題，但平臺要下架詐騙廣告，往往需要經歷一定的內部程序，而只存在一天、甚至兩天的詐騙廣告，這些內容可能在平臺下架之前，就已經自動消失了。
因此，林盈達認為，未來最關鍵的任務就是，如何讓平臺下架詐騙廣告也可以做到自動化，才是關鍵。換言之，目前詐騙廣告因為平臺下架流程，從偵測、通報到下架，如果能夠存活8小時，「未來可以透過自動化下架詐騙廣告的方式，讓詐騙廣告存活的時間越來越短，使得一偵測到詐騙廣告並通報後，可以做到即時下架。」他說。
林宜敬則指出，數發部目前積極規畫的打詐通報查詢網，就是希望鼓勵民眾協助通報詐騙廣告外，也可以透過程式自動化加上部分人工的輔助方式，偵測是否有偽冒名人身分的貼文，並且透過向名人求證的方式，減少誤判的情況。他表示，這個打詐通報查詢網預計3個月內正式上線，對於通報的詐騙廣告也會顯示處理進度，保護民眾不會受騙上當。
目前跨國社群平臺或是通訊平臺雖然也會下架詐騙廣告，但林宜敬對於處理速度並不滿意，關鍵在於，平臺雖然可以收到資安院提供的、每天5千至1萬筆的詐騙廣告清單，但因為下架作業仍未做到自動化，所以，平臺每日可以下架廣告的數量或許只有十分之一，顯然下架效率仍有提升的空間。
再者，林宜敬認為，並不是每筆詐騙廣告都一樣重要，熱門的、大家關注的詐騙廣告，要有比較高的優先順序和權重，平臺也應該優先下架這類型的詐騙廣告、降低對民眾的危害。最後，他也說，目前政府也積極透過和立法院協商，提供相關平臺有更多法源依據，使他們可以下架詐騙廣告。
針對詐騙廣告人名偵測精準率達93％
江禹賢表示，目前資安院利用機器學習、自然語言處理（NLP）並結合大數據分析等技術，研發出更高效率的識詐工具，可以從源頭遏止詐騙蔓延，目前針對人名是別的準確度達93.3％，而Line帳戶識別準確度也達94.2％。他說，藉由這樣的識詐工具，可提取詐騙廣告最常偽冒的人名，作為加強重點人物回報機制。
資安院在數位產業署的指導下，逐步打造跨領域打詐協作及訊息交換平臺，目前投入9個人力、整個專案投入約2千萬元，目前研發的重點在於：深化資料探勘技術，除了目前使用的廣告自動化巡檢技術，還有AI詐騙關鍵字提取、身分資訊識別技術，透過每個月超過50萬筆的廣告巡檢數量，做到有效偵測詐騙廣告並進行通報。
另外，他說，持續精進情報收整應用也是目前資安院的研發重點，不僅會分析詐騙廣告特徵，包括名人偽冒、用語和行為等，也會針對文本內容做風險評估。
資安院也綜整近二十年來臺灣詐騙事件的類型，並且彙整美國FBI、澳洲國家反詐騙中心NASC、英國內政部 Fraud Strategy 等單位的研究，歸納出9大詐騙樣態，包括：愛情交友（Romance）、金融投資（Investment）、產品服務（Product and Service）、意外之財（Unexpected Money）、威脅勒索（Threat and Extortion）、身分冒充（Impersonation）、工作求職（Jobs and Employment）、錢騾車手（Money Mules）及慈善捐款（Charity），而臺灣目前最盛行的詐騙態樣，主要是金融投資、身分冒充、愛情交友的混合式詐騙。
江禹賢表示，資安院分析、歸納這九大詐騙樣態指南之後，希望可以提高針對詐騙手法的識別能力，透過強化打詐策略與資源分配，促進識詐、防詐的教育宣導工作外，也希望透過研發「詐騙事件描述框架」（TTPs），藉由描述詐騙集團的戰術（Tactics）、技術（Techniques）以及程序（Procedures），做到強化詐騙事件溯源能力和情報共享能力，並提升自動化處理效率，進一步做到主動監測和事前預警。
未來，江禹賢認為，若要精進數位詐騙反制技術研發，就必須做到詐騙防治生態系的規畫，強化跨單位聯防能力，並規畫情資交換格式，建立詐騙事件快速應變流程，也要規畫事件目擊通報平臺。
關注臺灣近期常見的四種新興詐騙手法
資安院也從目前詐騙廣告的多樣性，發現幾種臺灣目前較為常見的新興詐騙手法。江禹賢指出，偽冒政府單位是最常見的詐騙形式，像是假冒交通部公路局發送假催收簡訊、假政策宣導、假監理服務網站；或是偽冒法務部假冒地檢署、假冒檢察官或是假冒律師事務所等，都試過網常見的詐騙廣告型態。
而另外一種常見的愛情交友詐騙，主要分布在社群通訊平臺、交友約會平臺，以及廣告，會因為受眾不同而有差異。像是社群平臺的愛情交友詐騙，是以虛假身分、長期情感培養操弄（精聊盤）、跨國操作（美國盤、臺灣盤）和詐騙App等方式；若是廣告平臺的愛情交友詐騙，則是感情投資詐騙、戀愛指導諮詢、違禁藥品交易和詐騙App等手法。
不過，江禹賢表示，資安院也分析4種現在臺灣常見的新興詐騙手法，因為，只有先識詐才能夠防詐！
第1種新興詐騙手法就是，詐騙集團透過釣魚貼文，並利用社群平臺的跳轉機制，使連結看起來像是來自官方的來源，事實上，該連結卻會導向一個不安全的釣魚網站，會竊取用戶的個人資訊。
第2種則是利用虛假課程來騙取個人資料，這些假課程的報名廣告，強調課程精美、限時免費，吸引用戶報名，但真正目的則是要騙取個人資料。第3種和第4種類似，則是出現各種假活動報名廣告，目的也是在騙取民眾個資，破解方式就是看到相關訊息時，都必須先向官方管道求證。
最後一種常見的新興詐騙手法，就是假冒慈善捐款機構詐騙，根據刑事局統計，光是今年三月，就有45家基金會遭到詐騙集團冒名進行詐騙，累計案件超過135案。這類詐騙主要發生在社群通訊平臺及廣告平臺，「免費占卜抽獎」是常見關鍵字，除了假冒社福團體騙取個資外，也會藉由免費占卜抽獎接觸民眾，更會根據新聞時事更換題材，像是4月2日的花蓮大地震過後，就會立刻出現相關的慈善詐騙廣告。
從事前、事中、事後來因應詐騙
伴隨著數位科技發展，也同時面臨一些風險與挑戰，江禹賢表示，首先，現階段可以看到的就是AI生成內容的濫用，像是深偽技術（Deep Fake）用於詐欺與不實訊息，或者是大規模生成爭議內容、虛假評論，都會干擾輿論生態。
其次，也會面臨去中心化平臺監管困難，像是去中心化的訊息傳播管道，缺乏有效內容審核機制，加上全程加密的通訊管道，也使得執法部門難以監測和取證。第三，如何在隱私保護和打擊危害取得平衡，像是法律保護隱私，但也為違法犯罪提供隱蔽空間。
第四，公眾意識與數位素養教育的養成，因為很多資訊缺乏事實查核意識，反而會助長詐騙訊息快速傳播。最後則是法規與執法工具的滯後性，法規制定跟不上科技發展，對於隱含的風險也面臨無法可管的情況。
因此，江禹賢表示，資安院對於詐騙應變流程提出四大策略，包括：事前的識別預警，事中的查核驗證和清掃阻斷，以及事後的採證調查。
在識別預警上，江禹賢表示，要先做到時序趨勢，把危害活動的時間序列分析，並研究相關趨勢變化與互動歸因；再者進行行為分析，透過社群分析、自然語言處理來了解行為的影響因素。最後則是異常預警，隨著分析技術發展，就可以研發異常資訊檢測與事件預警技術。
在查核驗證上，先做到跨平臺溯源，建立跨平臺訊息溯源機制，做到快速查證訊息源頭和傳播路徑；再者透過通報查核平臺，提供使用者訊息真偽驗證功能，並強化公民參與管道。最後則是要做到多語系資訊處理，在多語言環境下運作的關鍵字識別系統，降低語言差異對於詐騙內容識別的影響。
針對清掃阻斷，則需要先做到公私聯防，建立跨平臺訊息下架機制，整合平臺業者和NGO（非政府組織）資源；再者，透過自動化工具，大量清楚惡意散布的不實和詐騙訊息；最後則要強化關鍵基礎設施，強化電信網路黑名單更新機制，並縮短釣魚網站存活時間。
而在最後的採證調查上，我們要先做到威脅情資整合，透過跨單位情資分享，建立整合資料庫並加強犯罪偵查；其次，做到隱私強化技術，確保情資分享過程中的個資保護；最後則是開發鑑識工具，運用資安鑑識工具，保全惡意程式或仿冒網頁等數位證據。

資安院前瞻研究籌獲中心代理經理江禹賢表示，防制詐騙這個議題不會是一個單位可以解決，我們借鏡傳統資安的CERT、SOC、iSAC概念，認為詐騙防治也應該要有健全的分工運作機制。

而資安院的角色是發揮研究與開發技術的優勢來幫助這個機制建立，特別是打詐議題橫跨公私部門甚至是國際合作，如何有效的 "分享情資" 是最重要也最需要去克服的部分。

在上圖中，資安院下面的詐騙情資交換平臺有個循環的箭頭也正代表這個目標。 然後我們現在在進行的就是這個過程所需要的資料蒐集分析、彙整到最後的情資分享的相關技術研發。

圖片來源：資安院