OpenAI啟動抓漏專案

在經歷了曝露用戶對話標題及帳號被盜等風波之後，OpenAI本周宣布與Bugcrowd合作，推出了OpenAI與ChatGPT的抓漏專案，主要抓漏範圍為IT架構與應用上的隱私及安全漏洞，並未涵蓋模型上的問題。

OpenAI表示，任何複雜的技術都會有漏洞或瑕疵，但透明化與協作將帶來莫大的幫助，因此藉由Bugcrowd來邀請全球的安全研究人員、白帽駭客及技術愛好者來協助辨識與解決其平臺上的漏洞。

此一抓漏獎勵專案的範圍涵蓋了OpenAI的各種API，以及提供OpenAI API服務的公有雲資源或基礎設施，也納入了熱門的ChatGPT，包括ChatGPT Plus、登入、訂閱與各種官方的ChatGPT外掛程式，視漏洞的重要程度頒發200美元至6,500美元不等的獎金，若有更特別的發現則最高可獲得2萬美元的獎金。

不過，有關模型的安全問題則不被採納。像是讓模型提供越獄或其它違法的指導，或是讓模型替使用者撰寫惡意程式碼，OpenAI指出，就算他們致力於建置安全及有用的AI系統，仍舊無法預測於現實世界中遭到濫用的每一種手法，而且這類的臭蟲並不屬於可以直接修復的個別錯誤，而是通常需要大量的研究與更周全的方法才能解決。

OpenAI亦鼓勵使用者若有任何有關模型的行為問題，可透過其它途徑來提報。