Google AI服務悄悄禁止訓練Deepfake影片

媒體發現Google一項提供訓練AI模型的服務Colab，禁止使用者用它來製作Deepfake影片。

Colab全名為Colaboratory，可供學生、資料學家或是AI 研究人員在瀏覽器中編寫及執行Python程式碼，具有不必進行任何設定、輕鬆共用、免費使用 GPU的優點。對於無法負擔動輒數千美元的學生和研究人員來說，這是一項相當好用的服務。

媒體報導，知名的Deepfake影片製作網站DeepFaceLab用戶本周發現，在Colab上執行DeepFaceLab的程式時會觸發警告，表示用戶已執行不被允許的程式碼，這行為可能限縮用戶未來使用Colab的權限。不過同類型較小的網站用戶則尚未接獲類似警告。

Deepfake是利用AI技術改造特定個人頭像、說話動作或聲音，以便冒充他人，主要目的是誹謗、散布不實消息或詐騙。例如3月間烏克蘭媒體網站及電視臺遭駭，以散布deepfake影片，冒充烏克蘭總統要求烏國軍隊棄械投降。本月網路上也流傳冒用馬斯克（Elon Musk）等科技界名人身分的Deepfake影片，以推銷一個加密貨幣交易的詐騙平臺。

不過不確定Google是為了道德理由、或防範濫用資源考量才禁止deepfake影片製作。Google Collab另外禁止的行為包括：使用遠端桌面或連結遠端代理伺服器、採礦、執行DDoS攻擊、破解密碼、或下載Torrent影片或點對點（P2P）檔案分享等。