OpenAI對外徵求AI的民主程序

OpenAI本周公開對外徵求AI的民主程序，以在法令的疆界內制定AI系統可遵循的民主程序準則，並祭出10筆10萬美元的獎勵。

OpenAI表示，法令以價值及規範來制定行為準則，而在法令的框架之外，AI更像是個社會，需要更複雜與更客製化的準則來指導其行為，例如AI系統應在什麼情況下譴責或批評公眾人物，或者是AI該如何表現有爭議的各種觀點，以及在預設的情況下，AI如何認定某個人的角色。

該組織認為，通用人工智慧（AGI）應該能夠造福全人類，且應儘可能地具備包容性，此一徵求計畫則是該方針的第一步，希望來自全球的團隊可發展出得以讓AI系統遵循的民主程序。

所謂的民主程序指的是一個具備廣泛代表性的群體可交換意見，並進行審慎的討論，並藉由透明的決策過程取得結論，而且歡迎各種符合現代需求的創意途徑，例如維基百科或DemocracyNext等組織的決策方式。

例如利用ChatGPT來推動討論與建立共識時，ChatGPT可使用外掛程式來取得各方的聲明，同時協助各方理解彼此的意見，確保同樣的問題不再重覆提出，並推動腦力激盪，一直到最終達成共識。

此一計畫即日起開放各界申請，截止日為今年的6月24日，個人或組織可提出自己的計畫以供審核，通過者即可獲得10萬美元的專案獎金，以實驗他們所提出的計畫，至少必須邀請500名使用者參與其設計原型，並在今年10月20日之前發布公開報告。

OpenAI已提出許多問題供有興趣的團隊選擇，像是ChatGPT是否該有界線？AI對公眾人物是否該保持中立？AI在什麼樣的情況下可提供醫療、金融或法律建議？是否該允許視覺語言模型辨識人們的性別、種族或身分？以及AI對LGBTQ或女性族群的看法是否該因地制宜等。