俄羅斯、中國、伊朗、以色列駭客濫用OpenAI的生成式AI技術，意圖操縱全球輿論

人工智慧聊天機器人ChatGPT開發商OpenAI指出，他們在最近3個月裡，破壞了5起企圖濫用該公司語言模型操縱社會輿論或是左右地緣政治的影響力攻擊行動（Influence Operations），這些攻擊行動來自俄羅斯、中國、伊朗、以色列，涉及烏克蘭戰爭、加薩衝突、印度選舉、歐美政治，以及異議人士對中國政府的批評等。

這些駭客試圖濫用OpenAI的語言模型，產生文章、評論、社群網站個人檔案、網站程式碼，甚至是用來進行除錯。

其中一起由俄羅斯駭客發起的攻擊行動Bad Grammar，主要透過加密通訊軟體Telegram運作，目標是烏克蘭、摩爾多瓦、波羅的海國家、美國，藉由持續發布不符文法規則的英文或俄文內容，撰寫簡短的政治評論。

另一起俄羅斯駭客發起的攻擊行動Doppelganger，則是藉由AI在社群網站X、9GAG上，使用英語、法語、德語、義大利語、波蘭語等多種語言撰寫評論。

由中國駭客發起的Spamouflage攻擊行動也相當值得留意，他們藉由OpenAI的模型對程式碼進行除錯，針對社群網站分析尋求建議，研究近期新聞與事件，然後產生中文、英語、日語、韓語內容，並發布在X、Medium、Blogger。而對於攻擊者的身分，Meta認為與中國執法機關有關；美國聯邦調查局（FBI）指出，部分社群網站的活動可能是中國公安旗下部門有關。

此外，也有中東地區組織濫用這類攻擊的情況，分別是伊朗駭客組織International Union of Virtual Media（IUVM），以及以色列公司STOIC。