OpenAI取締駭客用AI進行認知作戰

OpenAI公布非法使用整頓報告，揭露駭客以其AI工具撰寫惡意程式及生成內容，散布到X、Meta等社群平臺發動認知作戰的趨勢。

OpenAI推出各種允許開發人員用以開發、微調模型的線上工具，並且致力於執行防範濫用及促進AI內容透明度的政策，其中特別著重隱匿影響力作戰（influence operations，IO，即認知作戰）的偵測和防堵，這類攻擊旨在隱藏行為者的真實身份或意見並操弄公眾意見或影響政治運作結果。

根據公布的報告，過去三個月OpenAI偵測並阻止了5起使用其模型協助欺騙性行動的隱匿式影響力作戰，二起和俄羅斯有關，中國和伊朗相關活動各一起，以及一起和以色列商業公司有關的活動。其中俄羅斯利用其模型設計X、Telegram或臉書、9GAG等社群平臺的政治宣傳訊息，或開發貼文及按讚機器人用於對烏克蘭、波羅的海地區用戶認知作戰。可能和中國公安部有關的中國組織Spamouflage，利用Meta散布批評異議人士如蔡霞的內容。

伊朗組織國際虛擬媒體聯盟（IUVM）以AI優化網站主題及內容，散布反美、反以色列的內容。以色列則是由民間公司STOIC發動Zero Zeno活動，在社群平臺、YouTube釋放反哈瑪斯、支持占領加薩走廊、反印度執政黨BJP訊息。

OpenAI分析近來AI濫用行為，包含以AI設計或優化社群或網站主題與內容，以及利用AI機器人（bot）自行回應貼文、按讚以壯大聲勢。但目前無法做到全由AI生成內容，仍然必須搭配人類小編撰寫文字或從網路上複製謎因。

OpenAI重申，該公司已為模型加入安全防護，包括拒絕生成違規的圖片和文字，且使用自製AI工具協助偵測和分析違法使用。

有趣的是，雖然OpenAI推出AI工具強化內容平臺的用戶參與度，但OpenAI分析研究顯示，使用AI有助於提升生產力，不過在X、Telegram、Facebook、Medium、Google Blogspot和小型論壇散布AI生成的內容，似乎無助於大幅提升讀者參與度。