雲端LLM服務用戶當心！帳密若失竊，存取權恐被轉賣給網路犯罪份子，每個月可能還要支付150萬元

大型語言模型（LLM）爆紅，全球都關注採用這類人工智慧技術或服務的應用系統發展，而在資安風險的層面上，絕大多數關注的層面是圍繞著提示的濫用，以及訓練資料的竄改，以雲端原生防護產品著稱的資安新創公司Sysdig，本週揭露新的攻擊手法，他們觀察到有些惡意活動利用盜取的雲端服務身分憑證，而且是鎖定前10大雲端LLM服務，並將這種行為稱為LLM綁架（LLMjacking），在上述情境之下，攻擊者會將LLM存取權賣給其他網路犯罪份子，同時，這些雲端服務帳號持有者可能還在持續支付使用LLM應用的帳單，形同幫歹徒的AI使用而埋單。

用戶的雲端服務身分憑證之所以被偷走，Sysdig僅簡略表示是來自一個擁有許多用戶的系統，由於當中執行具有CVE-2021-3129漏洞的PHP框架Laravel，而導致這些資料外流。

關於LLM綁架具體運作流程，根據Sysdig的描述，一旦攻擊者拿到雲端服務的初步存取方式，他們會挖出登入憑證、獲取雲端環境的存取權，而在這裡他們會試圖存取雲端服務廠商在此代管的LLM模型。在他們觀察到的執行個體當中，業者在這個環境所設置的Anthropic Claude v2/v3模型，是遭到攻擊者鎖定濫用的目標，如果上述狀況沒被發現，受害者為了LLM的使用每天可能需支付超過4.6萬美元（逼近新臺幣150萬元）。

Sysdig研究人員也發現一些證據，例如，LLM的反向代理被用於提供這些遭駭帳號的存取權，從這狀況研判，攻擊者是有財務層面的動機，另一個可能動機則是為了提取LLM訓練資料。