號稱能繞過ChatGPT反濫用限制的服務在駭客網站兜售

道高一尺，魔高一丈。研究人員發現，隨著OpenAI的ChatGPT加入防止濫用的方法，攻擊者也發展出能繞過這些限制的新方法及商業服務。

安全廠商陸續發現，OpenAI的服務不只造福程式碼工程師，也能幫助技術不佳的駭客。例如Check Point研究人員去年發現，ChatGPT可被攻擊者用來撰寫網路釣魚電子郵件，並產生基本的惡意VBA程式碼，或是執行reverse shell，進而接受英文攻擊指令。

為此，OpenAI為其服務新增限制防止濫用，像是如果攻擊者透過ChatGPT的用戶介面要求它撰寫冒充銀行的釣魚信件，或撰寫惡意程式，將遭到拒絕。

但CheckPoint研究人員近日發現駭客界又有新的因應方法。在駭客論壇上，有人兜售繞過OpenAI限制的服務。一個方法是建立Telegram機器人（下圖），透過API整合並存取ChatGPT。某名駭客服務的商業模式是，他們可使用20次ChatGPT免費查詢，而對客戶提供每100次查詢5.5美元的服務。

圖片來源／CheckPoint

研究人員指出，目前OpenAI允許外部應用程式如Telegram頻道以API存取GPT-3模型，幾乎沒有任何防止濫用的機制，因而可被用來生成釣魚信件或惡意程式碼等內容，不受現有規則限制。

另一名駭客則是藉由撰寫基礎的腳本程式直接查詢OpenAI API，藉此繞過反濫用機制，達成開發惡意程式的目的。

研究人員表示，這顯示隨著ChatGPT不斷強化控制，駭客也會持續「精進」其濫用OpenAI模型的技倆。