用AI判別Deepfake造假的影片可行嗎？臉書：目前辨識成功率僅6成

近日，臺灣一位知名網紅YouTuber，因用Deepfake變臉軟體製作名人不雅影片來販售牟利，遭到警方逮捕，而引發熱議，連總統蔡英文都高度關注，在臉書公開回應將研擬修法，來防止這類新型科技犯罪行為再發生。

Deepfake是一種AI影像合成技術，透過深度學習將影片、照片中人物進行換臉處理。過去幾年，在不少影劇、娛樂，甚至一些重要政治場合，都能看到使用Deepfake偽造名人或政治人物的跡象，因為換過的人臉幾可亂真，有時連民眾自己都難以分辨真假。

這兩年，科技圈針對這種AI造假影片的反制手法也展開研究，微軟和臉書還曾舉辦挑戰賽找解方。不過直到去年Deepfake影片辨識技術大賽，準確度最高只認得8成。另外有科學家想出辦法，以眼角膜上的光線反射圖像來提高AI變臉偵測的準確度，雖然辨識度有高達9成以上，但使用上仍受到不少限制。

在近日一場Arm DevSummit 2021高峰會上，臉書AI基礎架構研究負責人李憲信也透露，目前臉書在Deepfake造假影片辨識研究的進展。李憲信也是臉書AI研究院一員，帶領研究團隊專注AI與ML系統研究。

由於近幾年，在臉書上分享Deepfake造假內容，有逐漸增加的跡象，所以臉書自去年開始著手規範及封鎖Deepfake內容，甚至2年前也開始嘗試結合AI技術，還舉辦挑戰賽，希望能改進這類AI假影片的辨識演算法，但李憲信坦言，目前辨識成功率約在60%左右，距離真正可用還有段距離。

臉書上不只有AI造假影片，還有不少濫用AI技術的例子，李憲信也舉例，一些獨裁政府，會利用臉書平臺來打壓反對聲音，並會引入political bots政治機器人大軍，運用像自然語言處理這類AI技術，自動回應臉書上的相關文章，來攻擊反對者的批評聲音，他說，這樣的情況，也有出現在如臺灣等民主國家，甚至有些國家獨裁者更拿它來統制人民，或用來打擊反對黨，「這是我們在臉書上觀察到的現象。」

遇到這類有違AI道德倫理的事情，臉書也以AI做為反制手段，採用相應的AI技術移除這些機器人假帳號。不過，李憲信表示，臉書每天需要刪除這類的假帳號數量，超過數百萬戶，現階段純用AI來處理，還是有其限制，需要人工介入。他也坦言，這是非常難解的問題。

除了要用AI辨識影片真假，他也提到，臉書目前正在投入的AI研究項目，像是讓AI具備有內容理解能力，能夠根據文意脈絡判斷出，這是否屬於違反道德倫理的行為，例如圖文不符帶有攻擊他人的內容，進而將它移除。