AI倫理學先鋒離開Google 重量級學者的「被辭職」風雲(12/14更新)

by:山謬
8757

身為AI倫理學領域首屈一指的學者,格布魯加入Google本該能幫助這間科技巨頭更上一層樓,沒想到,雙方的合作如今卻在一片錯愕與批評聲中畫下句點......

◆ 原文上線時間:2020/12/09
◆ 增修時間:2020/12/14 更新Google CEO皮查伊、格布魯各自的回應

post title

身為AI倫理學領域中的一名重量級學者,加上長年投身AI領域的種族平權議題,使得這回格布魯離開Google事件格外獲矚目。

Photo: TechCrunch

「被辭職」的重量級科學家

上周三(2)晚上,Google AI倫理學部門的主管格布魯(Timnit Gebru)突然在Twitter上宣布她已經被Google開除,她懷疑自己「被辭職」的原因是她在員工群組中抱怨自己的一篇論文被高層退件、不得發布,以及她在論文被擋下當天於員工群組中分享論文被退件遭遇和批評Google招募政策成效不彰,才導致她最終不得不離開Google。

一顆震撼彈

格布魯離開Google的消息一出,立刻在海內外的AI學界、Google內部引發軒然大波,因為她不僅是AI倫理學領域首屈一指的學者,她長年來也積極為AI領域中的種族平權議題奔走,因而使外界格外關注這起Google內部的人事異動案。

目前學術界以及Google員工已經發起各式各樣力挺格布魯的活動,像是透過連署要求Google澄清擋下格布魯論文的原因等,更有部分科學家已經開始拒絕審查其他Google提交、計畫要發表的論文。

post title

今年 6月,格布魯的研究還間接促使亞馬遜暫停臉部辨識平台Rekognition,以便重新審視AI是否有特別容易誤判特定種族的疑慮。

歐新社/達志影像

「AI倫理學領域的開創者」

格布魯是AI領域首屈一指的學者,擅長研究AI系統可能潛藏的歧視、偏見問題,曾於 2018年發表一篇指出現有臉部辨識系統特別容易誤判黑人女性臉部的論文,這篇論文間接促使亞馬遜於今年 6月暫停獲得美國執法部門採用的臉部識別平台Rekognition服務,重新改善AI系統容易誤判有色人種的問題。

專門提供客戶AI管理方案的公司Parity創辦人喬杜里(Rumman Chowdhury)將格布魯譽為「AI倫理學領域的開創者」,她說:「格布魯是AI倫理學領域的先鋒,也是這個領域的奠基者之一。有了格布魯的貢獻,資訊科學家及工程師才開始真正邁入這個領域。」

致力於推廣種族平權

在學術領域之外,格布魯投身於種族平權議題中,創立了「AI領域中的黑人」(Black in AI)組織,致力於增加當前全球AI領域的多元性。

post title

格布魯的離職風暴始於今年 11月,當時她提交了一份論文給Google進行內部審查。

美聯社/達志影像

論文內部審查引發爭議

格布魯的離職風暴始於今年 11月,當時她提交一份闡述當前自然語言處理(Natural Language Processing,NLP)缺陷的論文給Google方面審查。自然語言處理是科技公司近年發展出的一項技術,只要利用網路上大量的文件訓練AI,AI往後就能自動產生文字片段。Google內部也有開發類似的系統,主要用在改善自家瀏覽器的表現上。

格布魯在論文中指出,自然語言處理既然使用來自網路上的資料訓練AI,其中自然也難免使用到部分內含偏見、歧視的資訊,這些偏差的資訊未來都有可能影響AI產出文件的品質。除此之外,格布魯也指出自然語言處理在運作過程中有消耗大量能源等諸多缺失。

滿足條件 VS 辭職走人

經過審查後,Google於周二(1)告知格布魯她的研究不符合內部標準,因此將論文退件。格布魯隨即去信向高層要求更完整的解釋,開出揭露審查者身分、審查者的完整意見等條件,並表示如果Google無法滿足她的要求,她將辭職離開。

同一天,格布魯也在一個名為「Google智慧女性及盟友」(Google Brain Women and Allies)的群組中回應另一份研究的研究者,分享自己論文被退件的遭遇,並批評Google的多元招募政策執行效果不力的情形。

post title

接獲格布魯開出的公開審查小組成員名單、每個人的回應內容等條件後,Google高層隨即回信表示無法滿足她的條件,因而尊重格布魯辭職離開的決定。

Photo: Solen Feyissa

Google:「尊重你打算辭職的決定」

周三,Google方面回信給格布魯,告知Google無法滿足她開出的條件,因此接受並尊重她辭職的決定,而格布魯的Google帳號權限也在短時間內被取消。格布魯相信,那篇被撤回的論文,以及在員工群組內部批評公司招募政策的舉動,就是導致她被開除的真正原因。

但在錯愕之餘,格布魯也對Google拒絕與她討論論文退件原因的舉動感到失望,她在接受《紐約時報》訪問時說道:「這真的很沒人性,Google可能出於某些理由而決定將我的論文退件,但最讓人沮喪的是,他們不願意和我一起討論退件的原因。」

退件論文的真正原因?

然而,從周四(3)Google AI部門的主管迪恩(Jeff Dean)發出的內部信件來看,Google方面將格布魯的論文退件的主因,是因為這份論文「忽視太多相關研究」,而且趕在截止期限的最後一天才送件,導致審查小組沒有足夠的時間審批所致。

post title

Google AI部門主管卻又提供另一種說法,表示格布魯的論文有「忽視太多相關研究」以及太慢送審的問題,才讓審查小組決定將其退件。圖為Google於 2018年舉辦的「Google造福社會」(Google's AI for Social Good)活動。

歐新社/達志影像

論文大部分都準時繳交

但迪恩的說法在公開後卻遭遇格布魯團隊的質疑,團隊表示這份論文只有不到一半的篇幅是在截止期限的最後一天才繳交,而且在提交內部審查之前,這篇論文已經獲得 28位Google內、外專家的回饋;同時,論文的其中一名作者,美國華盛頓大學的語言學教授本德(Emily Bender)也出面表示,這篇論文總共引用了 128份論文,遠高於一般學術研討會論文的引用數量。

早已引發軒然大波

無論如何,格布魯離開Google事件在爆發後,已經在AI學術界、各科技公司內部引發軒然大波,Twitter上也已經有不少人透過「#相信黑人女性」(#BelieveBlackWomen)標籤表達對格布魯的支持;Google、微軟、蘋果等科技巨頭的部分員工更聯手發表公開信,要求Google出面解釋將格布魯論文退件的原因;學術界有部分學者已經發起抵制,拒絕替Google審閱計畫要發表的論文。

「如果我們無法暢談AI面臨的倫理學危機,那我們永遠都沒有機會建立起一個屬於AI的道德體系。」英國AI公司DeepMind的員工加布里埃爾(Iason Gabriel)說道。

post title

事實上,這種大型公司「選擇性」發表對自己有利研究的情形並不罕見,過去菸草業、能源業都曾介入癌症研究及氣候變遷研究領域中。

Photo: Andres Siimon

選擇性發布研究常發生

英國倫敦大學學院(University College London)榮譽助理教授科尼布斯(Julien Cornebise)表示,這種大型公司「選擇性發表」特定研究的行為,過往在糖業、煙草產業與癌症研究、能源產業與氣候變遷中都能找到先例。

「AI領域的研究者必須了解他們進行研究的地點至關重要,因為最終研究者們可能沒有決定是否使用、發布這些研究的權利。」科尼布斯說道。

AI研究者的困局

但是對AI研究者們來說,即使研究者們明瞭研究地點的重要性,他們往往也沒有選擇,仍然得與Facebook、Google這類科技巨頭合作,因為只有這些公司才有執行研究所需的資源。

「令人膽寒的時刻」

美國加州大學柏克萊分校(UC Berkeley)的資工系教授哈特(Moritz Hardt)說道:「目前AI倫理學領域的研究者還不清楚未來該如何進行研究工作。」

「我會說,這是一個令人膽寒的時刻。」

在皮查伊的內部信曝光後,格布魯也親自在Twitter上對這封內部信發表回應。

CEO親上火線

在格布魯的離職案鬧得沸沸揚揚後,上周三(9)Google執行長皮查伊(Sundar Pichai)總算親上火線,以內部信件的方式向員工們解釋Google的立場。

簡而言之,皮查伊坦承Google與格布魯的分手並不愉快,Google願意盡速檢討整個流程究竟出了什麼問題,確保未來有類似情形發生的時候,員工不會在流程中感受到自己不被尊重。

不能算作道歉

可是整封信看在格布魯眼裡,根本不能算做「道歉」。皮查伊於信中指出,很多Google員工在格布魯離開後,開始對自己的工作產生疑慮,他願意為此致歉並努力恢復過往員工對公司的信任,至於格布魯本人,以及這起事件的幾個癥結點,皮查伊卻沒有進一步說明。

「所以我將這封信視為『Google對格布魯離開一事的結果感到抱歉,但Google對格布魯的所作所為則不在道歉的範圍中。』」格布魯在Twitter上寫道。

最糟糕的寫作手法

AI研究公司OpenAI Policy的政策總監克拉克(Jack Clark)表示,他並不常對這類事件發表評論,但這回Google發布的內部信卻讓他感到十分震驚。

「格布魯事件才剛發生,這封信卻以一種彷彿在報導天氣的口吻加以回應。」克拉克說道:「這是最糟糕的寫作手法。有人真的做了這些事,而他們現在正試圖遮掩這一切。」