假資訊太多，美政府要調查ChatGPT的模型訓練及資料蒐集、安全方法

由於AI幻覺造成輸出假資訊及毁人名譽，美國聯邦交易委員會（Federal Trade Commission，FTC）上周介入，要調查OpenAI如何訓練AI聊天機器人，以及相關的資訊安全、隱私保護作法。

《華盛頓郵報》首先報導，FTC向OpenAI寄發了20頁的行政文書，要求提供多種文件以協助調查，包括ChatGPT AI模型的行銷計畫、廣告呈現、訓練方法、如何蒐集訓練AI模型的資料、如何防止假資料造成扭曲個人形象、防止模型被隱私或指令注入攻擊、以及如何整合API和外掛。FTC的調查期間由2020年6月迄今。

這項調查是在OpenAI遭一連串指控後，當局的實際行動。6月底OpenAI在加州遭集體控告，其AI模型從社交媒體、部落格、Wikipedia大量掠取其留言或內容，侵犯其智慧財產及隱私。此外還有多位個人指控ChatGPT產出不實的描述，有人被說成是罪犯，有人涉入外國行賄事件，造成名譽受損。而控告ChatGPT未經告知使用了他們的程式碼、繪圖或文字創作的案例更是不勝枚舉。

OpenAI執行長Sam Altman對OpenAI是從新聞得知此事表達失望，認為此事無助建立雙方信任。但他仍表示，自家科技具高度安全性及以消費者為重，OpenAI將與FTC合作協助調查。

FTC則未評論。不過FTC主席Lina Khan上周在美國眾議員監管委員會答詢時指出，FTC的工作重點是，在企業競爭部署及利用AI獲利之時，該局將審視如何同時確保公平競爭環境及保護美國消費者免受欺騙作法之害。

事實上OpenAI已經著手解決AI引發的問題。早在今年Altman就參與聯署，呼籲全球政府要小心AI的強大能力及假資訊可能造成的文明及社會衝擊及危害。本月OpenAI也在創辦人IIya Sutskever率領下成立專門小組，以發展能駕馭、管理AI超智慧（superintelligence）相關科學及科技。