微軟與OpenAI證實大型語言模型已被各國駭客用來協助網路攻擊行動

微軟與OpenAI在本周三（2/14）發布了一項AI時代的新興威脅研究報告，證實各國國家級駭客已利用大型語言模型（LLM）來協助攻擊，涵蓋中國駭客Charcoal Typhoon與Salmon Typhoon，伊朗駭客Crimson Sandstorm，北韓駭客Emerald Sleet，以及俄羅斯駭客Forest Blizzard，而OpenAI則進一步採取行動，關閉了與上述駭客組織有關的用戶帳號。

微軟威脅情報中心（Microsoft Threat Intelligence Center，MTIC）長期關注與追蹤逾300個駭客組織，其中包括160個國家級駭客組織，以及50個勒索軟體集團，這些駭客組織部署了各種數位身分來攻擊基礎設施。微軟持續分析駭客利用新技術來擴大能力或躲避偵測的行為，並與OpenAI合作監控駭客如何利用AI及各種LLM。

微軟表示，目前尚未觀察到駭客因使用AI而產生特別新穎或獨特的攻擊，但將與OpenAI共同確保ChatGPT等AI技術被安全及負責任地使用，因而採取措施破壞駭客的相關資產及帳號，改善對OpenAI LLM技術及使用者的保護，以避免遭到濫用或攻擊，同時也將替雙方的模型建立防護欄與安全機制。

根據雙方的調查，這些國家級駭客目前主要是利用OpenAI的服務來查詢開源資訊，翻譯，尋找程式碼漏洞，以及執行基本的程式碼撰寫任務。

其中，Charcoal Typhoon使用OpenAI的服務來研究不同的公司及網路安全工具，替程式碼除錯或是生成腳本，也以AI來建立可作為網釣攻擊的內容。Salmon Typhoon則是使用OpenAI的服務來翻譯技術論文，檢索各個情報組織及區域型駭客組織的公開資訊，也用來協助撰寫程式，以及研究於系統上隱藏程序的常見方法。

Crimson Sandstorm以OpenAI的服務生成程式及網頁開發腳本，或是生成網釣內容，以及研究惡意程式可躲避偵測的方法。Emerald Sleet則是利用OpenAI的服務來辨識亞太地區國防領域的專家及組織，尋找公開漏洞，協助基本的程式撰寫任務，以及生成網釣內容。Forest Blizzard 主要使用OpenAI服務來研究開源的衛星通訊協定與雷達成像技術，也用它來撰寫程式。

整體而言，這些國家級駭客使用OpenAI服務的方式與一般使用者大致相同，只是所生成的內容、撰寫的程式或是查詢的資訊，都是為了要展開攻擊。

微軟與OpenAI認為，目前的模型對駭客的幫助有限，但為了領先這些重大且不斷演變的威脅，雙方將採取多管齊下的策略來遏止駭客組織，包括禁用帳號、終止服務，或是限制對資源的存取；同時與其它AI生態系統合作以交換駭客組織的資訊；不斷改善AI系統的保護機制；透明化駭客對AI系統的濫用資訊以與全球共同防範。