中國要求Deepfake影片需加明顯標示

中國國家互聯網信息辦公室本周發布Deepfake人工智慧合成影片服務的管理法規，將要求業者應在合作的Deepfake影片提供明顯標識，避免Deepfake影片用於非法行為，此外也應主動審查客戶內容以避免散布假新聞。

中國網信辦是在11月初通過《互聯網資訊服務深度合成管理規定》規定。深度合成服務指的是提供工具產製AI合成模仿知名人物影片（或稱deepfake影片）的服務業者。

網信辦這項法令旨在明訂深度合成數據和技術管理規範，防止有人利用深度合成服務從事危害國家安全和利益、擾亂社會經濟秩序。中國政府要求業者應擔任資訊安全主體，建立使用者註冊、定期審核演算法、發布審核資訊、確保用戶個資保護、防範電信網路詐騙，並具備安全技術措施。

較重要的一點是，法規要求，4類深度合成服務業者應在生成或編輯的內容特定位置加上顯著標識，以避免公眾遭到混淆或誤導。這4類包括AI對話、智能寫作等生成文本的服務；合成人聲、仿人聲及顯著改變個人身份的服務；人臉生成、替換、人臉操控及姿態操控、影片生成的服務；沈浸式擬真場景等生成或編輯服務等，以及其他類。而且任何組織或個人不得以技術手段刪除、隱藏或竄改這些標識。

法規要求，業者和使用者不得使用深度合成服務製作或發布、散布假新聞，轉載深度合成服務發布的新聞，應同時轉載官方新聞稿源。而深度合成服務業者也應加強內容管理，對使用者輸入的資料和合成結果進行技術或人工審查，一旦發現違法和不良訊息，應立即向主管當局通報，並對使用者發布警告或限制功能、暫停服務或關帳號等措施。

這項法規在12月11日公布後，將在2023年1月10日起上路。