OpenAI加入C2PA指導委員會，測試Deepfake圖像偵測工具

OpenAI於周二（5/7）宣布，已加入內容出處暨真實性聯盟（Coalition for Content Provenance and Authenticity，C2PA）的指導委員會，除了將擴大對C2PA的投資外，同一天亦開始測試Deepfake圖像偵測工具，協助使用者辨識內容是否出自AI。

C2PA是由微軟、Adobe、Arm、英特爾、BBC及Truepic在2021年的2月共同創立，這是個聯合發展基金會（Joint Development Foundation，JDF）專案，主要任務為制定技術標準以證明媒體內容的歷史、來源或出處，以解決不實資訊或內容詐欺等問題，因此，該組織替常見的格式制定來源規範，不管是圖像、影像、音訊或文字。現在的C2PA也成為AI時代的深偽技術（Deepfake）守門人，且C2PA的陣容也愈來愈龐大，包括AWS及高通等業者也都已加入。

C2PA指導委員會的成員皆承諾要積極開發及推動內容憑證（Content Credential）的使用，於內容中嵌入憑證來建立使用者對數位內容的信任，為C2PA所設計的開放標準之一。該委員會的既有成員還包括Adobe、BBC、英特爾、微軟、Google、Publicis Groupe、Sony和Truepic 。

今年初OpenAI就在由DALL·E 3生成的圖像中加入了C2PA的元資料，以記載該圖像的出處，本周OpenAI宣布未來也將把C2PA整合到影像生成模型Sora。

除了C2PA之外，OpenAI也在開發新的技術來強化數位內容的完整性，包括部署防篡改的浮水印或是偵測分類器等工具，即日起便開放研究實驗室或非營利單位申請測試偵測分類器，以協助OpenAI評估分類器的有效性並分析其實際應用。

根據OpenAI的內部測試，該分類器在辨識DALL·E 3作品或非AI作品上的準確度高達98%，只有不到0.5%的非AI生成圖像被標記來自DALL·E 3。不過，若要是區分圖像是來自DALL·E 3或其它AI模型，準確度就沒那麼高。

此外，OpenAI也正將音訊浮水印整合到Voice Engine語音模型中，惟目前仍處於研究預覽階段。