Pinscreen創辦人黎顥展示自家研發的臉部追蹤App影片。(圖片翻攝自:https://www.youtube.com/watch?v=AOlzRULUXWE)

以人工智慧(AI)製作造假影片的先驅,近日接受電視CNBC訪問時說,他認為半年到1年內就會出現「完美的」deepfake影片。

南加州大學助理教授暨Pinscreen創辦人黎顥,上周在美國CNBC的《Power Lunch》節目上,談到deepfake影片技術未來發展時提出其觀點。Pinscreen推出的軟體,可讓用戶即時產生自己的3D虛擬分身玩VR遊戲和線上購物。

Deepfake影片是指以AI技術將名人臉部和色情片主角或其他人的嘴形或身體移花接木,製作造假影片,達成惡作劇或毁謗目的。黎顥說,目前要分辨是不是造假影片還是很容易,大部份deepfake影片用肉眼即可分辨出來。但是已經有人可以做出足以亂真的影片,而這需要相當功力和技術。

但是隨著影片製作科技及AI演算法的進步,黎顥上周在麻省理工學院一場研討會議中提及,他認為2到3年內就會出現「完美」的deepfake影片。不過他在CNBC上卻又改口為6到12個月。在被要求說明時黎顥解釋,最近變臉程式Zao上線引發話題後,使他認為這個時程要更為提前。

由中國軟體公司陌陌打造的變臉程式Zao,讓用戶可以上傳自己的照片,就能產生電影片段好比自己演出,還能透過社交平台分享他人,這個程式於8月底上線三天後,就躍居蘋果App Store免費程式下載排行榜冠軍。

黎顥認為,deepfake影片製作技術對娛樂和服裝業有很多好處,還能提升視訊會議效果,與其一味封鎖,更應該做的是發展偵測技術,以防止這類影片流傳騙人上當。他指出,deepfake影片製作技術很快就能達到幾乎無法偵測的水準,這也是學術研究的重要性。為此他正和加州大學柏克萊分校教授Hany Farid合作,研發偵測deepfake影片的技術。

黎顥說,如果不知道背後運作原理及其限制,也不可能開發出偵測deepfake的AI框架。他的團隊已經掌握一部份Zao影片製作原理,現在只需要更多資料來訓練模型和實作。

很多人擔心deepfake影片可能被用來製造假新聞、煽動群眾或激化社會衝突。微軟和臉書也發起名為Deepfake Detection Challenge大賽,投入總獎金上千萬美元鼓勵辨識Deepfake影片的技術開發。


Advertisement

更多 iThome相關內容