巴基斯坦前總理以Deepfake聲音向群眾發表演說

目前身陷囹圄的巴基斯坦前總理日前在AI Deepfake技術協助下，向支持群眾發表虛擬演說。

巴基斯坦前總理Imran Khan領導的巴基斯坦正義運動黨（Pakistan Tehreek-e-Insaf，PTI）本周日利用臉書、YouTube及X等社群平臺，舉行了2024年國會大選第一場為時近5小時的虛擬選舉活動。Khan為巴國前板球國家隊隊長暨慈善家。今年8月他在總理任期間遭控收賄且拒絕配合調查而被捕入獄至今。PTI被禁止集會活動，Khan本人也不被允許參選，以及出現在媒體上。

PTI以Khan草擬的演說稿透過律師攜出，由該黨運用一家AI公司ElevenLabs的技術，以其音訊檔為樣本模擬成其聲音。這場大會穿插Khan過往公開演講的影片及活動照片，他4分鐘的AI演說在虛擬大會中最後播放，影片也說明此為Khan的deep fake聲音。

PTI黨希望以社群及AI技術吸引年輕選民支持，也表示Khan是該黨活動的靈魂人物。Khan AI版聲音向群眾表示，他為這次歷史性的嘗試讚美社群平臺，而他對真正自由的渴望更加強烈。

即使巴國政府周日為阻止這場線上活動，切斷網路7小時，但該活動仍然從多個平臺上吸引了超過450萬次點閱率。

《The Guardian》引述一些巴國民眾看法，認為聲音太不真實，文法也怪怪的，但是一些用戶仍對PTI黨運用現代科技繞過當局審查的嘗試表示讚揚。