資安研究人員Patrick Peng揭露名為Llama Drama的漏洞,該漏洞存在於Python套件llama_cpp_python,攻擊者可藉此濫用其搭載的範本引擎Jinja2執行任意程式碼,CVSS風險評分達到9.7,開發者接獲通報發布0.2.72版llama_cpp_python予以修補,此漏洞被登記為CVE-2024-34359列管。值得留意的是,由於此套件的功能,主要是讓開發者能在Python環境整合AI模型,因此很有可能導致供應鏈攻擊。
什麼是llama_cpp_python?這是能夠處理具有大量資料的AI模型的Python套件,結合Python易用並兼具C++性能較佳的特色,而被用於將AI模型與Python整合。至於這項漏洞的源頭,是該套件採用的Jinja2程式庫,此為熱門的Python文件呈現範本引擎,開發者通常將其用於產生HTML網頁,由於此程式庫還具備執行動態內容的能力,對於開發人員來說功能相當強大。
針對這項漏洞,資安業者Checkmarx藉由部落格文章,進一步說明可能帶來的影響範圍。他們指出漏洞的核心問題在於,此套件在處理範本資料的過程中,並未使用沙箱或是其他適當的防護措施。研究人員指出,雖然Jinja2支援在沙箱中運作,但套件開發者並未導入這類機制而曝險。
研究人員指出,該弱點的類型為伺服器範本注入漏洞(Server Side Template Injection,SSTI),攻擊者有可能進行未經授權的操作,進行資料竊取,或是造成系統中斷作業的情形。
值得留意的是,他們在AI技術與資料共享平臺Hugging Face上,發現超過6千個模型採用帶有範本的gguf格式,而有可能曝露於上述漏洞的風險。
對此,Checkmarx研究人員認為,這項漏洞突顯人工智慧系統與軟體供應鏈安全的重要性,因為開發者採用的第三方程式庫或是框架若是存在弱點,就有機會危害整個系統,尤其人工智慧系統往往需要處理特別敏感的資料,一旦資料外流,造成的影響可能更加嚴重。
熱門新聞
2024-10-05
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07