AI倫理研究者Timnit Gebru因論文爭議被迫離開Google，員工與學術界串連數千人討公道

Google最近的一項人事異動引發爭議，挑起了美國人種族議題的敏感神經，Google知名AI倫理學家Timnit Gebru表示遭公司報復性解僱。支援Timnit Gebru的公開抗議信指控，Timnit Gebru是Google內少數的黑人女性科學家，但受到公司以種族主義，與審查其研究等不平等對待。該抗議活動要求Google給出交代，並發起使用#ISupportTimnit，以及#BelieveBlackWomen兩個Hashtag的活動。

Timnit Gebru12月3日於推特發文提到，他被Google人工智慧主管Jeff Dean火速開除。Jeff Dean是深度學習領域的知名研究者，而Timnit Gebru則來自衣索比亞，是一位電腦科學家，專業領域是研究人工智慧的公平性，避免模型在特定情況出現偏差，解決像是人臉辨識系統，在處理黑人女性臉孔錯誤率偏高等問題，同時，Timnit Gebru也是討論黑人在人工智慧領域議題Black in AI非營利組織的共同創辦人，而在Google，Timnit Gebru是人工智慧倫理團隊的共同領導人。

Timnit Gebru在12月3日的推文提到，他的企業帳號被迅速停權，相當於立刻被開除。這項人事爭議越演越烈，Jeff Dean隨後發出了一封內部信件（現已公開）試圖給出解釋平息眾怒，Jeff Dean表示Timnit Gebru是自己表達辭職意願，他僅是尊重Timnit Gebru的決定。Jeff Dean雖解釋Timnit Gebru並非被開除，但顯然雙方認知不同，Timnit Gebru在推特上直指他是被開除的。

外媒提到，這項爭議的源頭，來自一篇稱為〈On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?〉的論文，內容寫道「事實上，大多數的語言技術，都是為滿足那些，已經在社會上享有最大特權的人們而開發」。

該論文對當前的大型語言模型提出質疑，認為這些模型過大而具有風險，在過去幾年，語言模型使用極大量的文本資料進行訓練，人工智慧所產生的文字結果，與人類的文字越來越相近，甚至能夠假以亂真。該篇論文反思人們是不是已經對這些可能面臨的風險，進行足夠的思考與了解，並且發展夠完善的策略，避免這些風險帶來的影響。

論文提到，大型語言模型所使用的方法，必須要用到極大量的資料，但因為需要的資料量太大，以至於無法對所有資料集進行紀錄與文件化。文件建置提供了潛在問責性，像是可以要求產生文本的作者負起責任，但是如果因為訓練資料太大，而無法進行紀錄與文件化，便沒有咎責對象，則無法處理已知問題，更別說要發現並解決未知問題。

該篇論文還指出了其他大型語言模型所帶來的問題，包括因為模型需要大量的資料進行訓練，因此耗能和碳足跡呈現爆炸性成長；而且大型語言模型並無法理解語言真正的含義，僅是善於操作語言，但是因為大型科技公司可以透過操作語言模型來獲利，因此大型科技公司寧可投入資源研究大型語言模型，也不研究可以理解語言的模型，或是使用更精緻的資料集，達到更好效果的方法。

最後，論文研究人員認為，大型語言模型還有一個嚴重的問題，由於模型善於模仿人類語言，即便產生錯誤的內容，也會讓人深信不疑，而因此容易對特定族群產生傷害，論文中提到，曾有因為語言被錯誤翻譯，所導致人身自由被侵害等例子。

Jeff Dean回應Timnit Gebru事件的信件提到，Timnit Gebru、Google員工以及外部合作者共同撰寫的論文，在提交前需要經過內部審查程序，這是Google的既定政策，而他們認為這篇Timnit Gebru與其他作者合著的論文，未達出版標準，審核小組認為該篇研究忽略太多相關研究，像是雖然談到大型語言模型對環境的影響，卻忽略其他研究，顯示這些模型帶來更高效率的結果，而且對語言模型具有偏見的評論，也沒有參考最近對於減輕這些偏見問題的研究。Jeff Dean還提到，Timnit Gebru在未經過審核同意就已經提交論文。

Timnit Gebru要求Jeff Dean達成數個要求，包括提供Jeff Dean與Google Research工程副總裁Megan Kacholia否決論文的討論內容，以及Jeff Dean諮詢的名單，否則就要離開公司。Jeff Dean表示，他們只是接受並且尊重Timnit Gebru的選擇，該篇論文存在一些沒有解釋的空白，他們無法就這樣掛上Google的名字。

但Timnit Gebru在其推特的系列推文提到，他沒有要辭職，但他的上司直接發送同意辭職的報告。Timnit Gebru解釋他只是開了條件，如果Jeff Dean可以達成這些條件，則他會把自己的名字從論文中拿掉，如果Jeff Dean無法，那他就會離職（原文：I can work on a last date）。

從Timnit Gebru被解僱的消息傳開以來，已經有超過1,600名Google員工，以及超過2,500名學術界人士，簽署支持Timnit Gebru的抗議信，要求Google Research高層公開論文審查過程，包括Jeff Dean與Megan Kacholia的對話過程，以及其他審查人員拒絕論文的過程，還要求Google Research對研究完整性和學術自由作出明確承諾。另外，也有不少學術界人士發起，拒絕審查Google組織出版物的行動。