用於人工智慧系統的Python開發套件存在重大漏洞，恐導致系統資料外流

資安研究人員Patrick Peng揭露名為Llama Drama的漏洞，該漏洞存在於Python套件llama_cpp_python，攻擊者可藉此濫用其搭載的範本引擎Jinja2執行任意程式碼，CVSS風險評分達到9.7，開發者接獲通報發布0.2.72版llama_cpp_python予以修補，此漏洞被登記為CVE-2024-34359列管。值得留意的是，由於此套件的功能，主要是讓開發者能在Python環境整合AI模型，因此很有可能導致供應鏈攻擊。

什麼是llama_cpp_python？這是能夠處理具有大量資料的AI模型的Python套件，結合Python易用並兼具C++性能較佳的特色，而被用於將AI模型與Python整合。至於這項漏洞的源頭，是該套件採用的Jinja2程式庫，此為熱門的Python文件呈現範本引擎，開發者通常將其用於產生HTML網頁，由於此程式庫還具備執行動態內容的能力，對於開發人員來說功能相當強大。

針對這項漏洞，資安業者Checkmarx藉由部落格文章，進一步說明可能帶來的影響範圍。他們指出漏洞的核心問題在於，此套件在處理範本資料的過程中，並未使用沙箱或是其他適當的防護措施。研究人員指出，雖然Jinja2支援在沙箱中運作，但套件開發者並未導入這類機制而曝險。

研究人員指出，該弱點的類型為伺服器範本注入漏洞（Server Side Template Injection，SSTI），攻擊者有可能進行未經授權的操作，進行資料竊取，或是造成系統中斷作業的情形。

值得留意的是，他們在AI技術與資料共享平臺Hugging Face上，發現超過6千個模型採用帶有範本的gguf格式，而有可能曝露於上述漏洞的風險。

對此，Checkmarx研究人員認為，這項漏洞突顯人工智慧系統與軟體供應鏈安全的重要性，因為開發者採用的第三方程式庫或是框架若是存在弱點，就有機會危害整個系統，尤其人工智慧系統往往需要處理特別敏感的資料，一旦資料外流，造成的影響可能更加嚴重。