人工智慧當道,帶來工作與生活的便利之餘,駭客與網路犯罪份子也利用這樣的技術發動攻擊與詐騙行動,甚至出現許多容易取得的AI犯罪工具,在技術使用門檻降低的態勢之下,發動大規模網路攻擊更簡便,可透過深偽(Deepfake)這類AI假造圖片、影片、聲音等內容的手法,矇騙更多受害者進行勒索、身分冒用、詐騙,或是散播假消息。

關於這樣的資安威脅,在深度學習技術崛起、生成式AI走紅之後,引發眾人擔憂,美國FBI曾在2022年發布警示,分別提醒大家注意線上會議平臺可能發生商業郵件詐騙(BEC),以及用深偽影像與個人識別資訊來應徵遠端工作,並且已陸續出現一些實際的攻擊事件,像是:年初香港有跨國公司遭到深偽詐騙,對方透過視訊會議假造總部財務長影像,要求分公司財務部門職員匯款至指定銀行,結果損失8億元;7月底資安意識訓練解決方案廠商KnowBe4,坦承駭客成功利用深偽技術與多種欺騙伎倆線上應徵AI軟體工程師,而被聘入他們公司任職。

雖然深偽資安威脅已然成形,遺憾的是,整個資安界呼籲大家重視之餘,卻遲遲沒有廠商嘗試提出可行的解決方案。截至目前為止,我們看到趨勢科技揭露正在著手發展相關的技術。

例如,在5月舉行的RSA資安大會,趨勢科技宣布旗下企業級資安平臺Vision One當中的Zero Trust Secure Access(ZTSA),將針對公有或私有生成式AI服務的使用,新增保護功能;6月登場的台北國際電腦展期間,他們展示協助AI個人電腦對抗新興威脅的第一套消費型資安解決方案,提供AI應用程式防護與NPU驅動的電子郵件防護等功能,預計在今年稍晚推出。

到了本月召開的黑帽大會前夕,趨勢科技發布新聞稿,預告將在Vision One平臺提供深偽偵測技術,協助企業強化AI防護力,而且,這項功能也會供應個人用戶,目前他們先提供名為Trend Micro Deepfake Inspector的工具,能在個人端設備即時分析,協助確認目前進行的視訊對話是否有人正在使用深偽技術,若出現此類狀況,會警示當下呈現的對方影像畫面,可能並不是他們所宣稱的人,確保使用者資料與隱私都能持續獲得保護。

  

在趨勢科技網站的免費工具及試用頁面,可下載Trend Micro Deepfake Inspector,能用於Windows電腦——支援x86與Arm版本的Windows 11,但我們實際在Windows 10電腦也可以安裝、執行,最多可偵測20次,每次為期3分鐘(超過時間會自動停止)。

    

  

產品資訊

Trend Micro Deepfake Inspector
●原廠:趨勢科技
●建議售價:免費
●作業系統需求:Windows 11(x86、Arm)●最新版本:1.1.0●安裝檔案大小:168 MB
●使用限制:最多能偵測20次,3分鐘後自動停止偵測
●資料收集方式:一旦偵測到人員偽造影像,所收集的資料會保留3個月
●整合第三方服務:Google Analytics
●可偵測的深偽詐騙類型:愛情詐騙、投資詐騙、親友緊急狀況詐騙、隱私與假訊息、社交媒體假訊息

【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】

熱門新聞

Advertisement