macOS版ChatGPT軟體存在漏洞，攻擊者恐藉此將間諜軟體植入AI工具

今年2月OpenAI宣布將為ChatGPT提供名為記憶（Memory）的功能，並於9月初正式開放所有用戶使用，但有研究人員發現，電腦版應用程式弱點，有機會讓攻擊者將間諜軟體植入AI系統。

資安研究員Johann Rehberger揭露名為SpAIware的弱點，攻擊者可藉由第三方網站進行提示注入（Prompt Injection）攻擊手法，將含有能竊取使用者資訊的間諜軟體注入ChatGPT的記憶區，因此，在macOS版應用程式當中，使用者與AI機器人對話的內容，將會持續傳送到攻擊者的伺服器。OpenAI獲報後，已發布新版應用程式予以修補。

什麼是記憶功能？這項功能的主要用途，在於使用者與ChatGPT的過程，可以要求AI機器人記住特定內容，而能在後續的對話內容加以運用，提供更符合使用者需求的答案。此外，使用者也可以對於ChatGPT記下的內容進行管理，或是要求忘掉部分資訊。

究竟要如何發動SpAIware攻擊？具體而言，攻擊者要引誘使用者分析不受信任的檔案，或是將他們導向不受信任的網站，而這個網站含有控制ChatGPT及插入惡意資料而能滲透ChatGPT記憶功能的命令。一旦得逞，應用程式就會將使用者後續的聊天內容傳送給攻擊者。研究人員也公布概念性驗證影片，並指出這項攻擊的過程裡，使用者不易察覺有異。