微軟AI新聞編輯新登場 搞混明星惹議
最近,微軟公司宣布要讓AI新聞編輯取代旗下的約聘新聞編輯。沒想到,AI編輯才剛上任未滿一個月,馬上出包,引發人們對AI新聞能力、整體臉部辨識科技的疑慮。

圖為一群人在微軟的商標前使用電子產品。最近,微軟大動作宣布要用「AI新聞編輯」,取代原本的人類編輯,引發人們的關注。
路透社/達志影像新的編輯,新的未來
五月底,微軟公司宣布打算用「AI新聞編輯」,取代旗下數十名每天負責選稿、配圖的約聘新聞編輯。消息傳出後,立刻引起許多人的關注,大家從未料到「AI取代人類」的時代居然來得這麼快。
然而,「AI新聞編輯」上任不滿一個月就立刻捅出婁子,誤認兩名知名女歌手,引起對方的不滿,更讓人們開始疑惑:為何臉部辨識科技在辨識有色人種時特別容易失敗?
文章轉載 利潤對分
在微軟的分工中,約聘新聞編輯主要負責挑選重要新聞,視情況重新下標、調整格式、配圖,最後發佈於微軟自己的新聞網站上,微軟會將部分刊登新聞獲得的廣告利潤分給引用的媒體作為回報。
約聘編輯的工作 AI新聞編輯也可以
AI新聞編輯上任後,分配到的也是類似的工作,只是全數改由演算法分析,重新下標、配圖,將通通交給AI負責而非人工判斷。

圖為一名看報紙的男子。在微軟中,這些約聘新聞編輯主要負責選稿、調整格式等簡單的編輯工作。
Photo: Roman Kraft
圖為混合甜心四人一起出席NBC電視台在紐約舉辦的《今日秀》。(左起:席爾沃、尼爾森(Jesy Nelson)、賓諾克、愛德華茲(Perrie Edwards)。)
路透社/達志影像遵守嚴格編輯規則不容易
然而,並非所有人都像微軟公司一樣看好用AI新聞編輯取代人類編輯的決定。一名匿名編輯表示,他認為公司的決定得冒一點風險,因為編輯們在編輯新聞時必須遵守一套非常嚴格的編輯守則,對於AI來說未必是件容易的事。
舉例來說:避免讓血腥暴力、不恰當的內容出現在首頁、使用者一打開瀏覽器就會看到的位置,這對年輕的使用者來說尤其重要。
新手AI編輯配圖出包
今年六月初,AI新聞編輯選擇一篇英國樂團混合甜心(Little Mix)的成員席爾沃(Jade Thirlwall)分享自己過去遭遇種族歧視經驗的新聞時,卻誤將同樂團的成員賓諾克(Leigh-Anne Pinnock)誤判成席爾沃放入新聞,引發席爾沃不滿。外界也質疑,微軟的AI編輯系統在辨識有色人種上是不是表現特別差?

AI新聞編輯出包後,席爾沃馬上在自己的Instagram上發文表達不滿。
Photo: NeONBRAND
圖為一張臉部辨識的廣告。目前人類擁有的臉部辨識科技尚無法百分百準確比對,特別是在有色人種辨識上容易出錯。
路透社/達志影像AI臉部辨識大測驗
不過,這也印證了人們一直以來的擔憂:現有的臉部辨識技術在遇上有色人種時,似乎特別容易犯錯。
2018年,美國公民自由聯盟(American Civil Liberties Union,ACLU)就對亞馬遜提供一般人付費使用的臉部辨識服務Rekognition作了一項測試:ACLU從公開管道蒐集 2萬5,000張嫌犯照片作為臉部辨識的資料庫,使用預設的設定,一張一張的讓Rekognition比對國會兩院的議員和資料庫裡的照片,並檢視最終成果。
有色人種特別容易出錯
最後,總共有 28名國會議員被誤判。然而,即便現實中有色人種國會議員的比例只佔了 20%,在誤判的議員中,有 40%的議員是有色人種。
這就引起部分人的疑慮,因為美國警方同樣也使用亞馬遜提供的這套Rekognition臉部辨識服務,目前越來越多場合也能看到臉部辨識科技的身影,會不會使用過程中,反而不知不覺侵犯了有色人種的權利(註)?
註:目前,亞馬遜已經因Rekognition在有色人種臉部辨識方面的問題,暫停提供這套系統給美國政府使用。
可能侵犯他人權利
加州眾議員戈梅茲(Jimmy Gomez)是其中一名被誤判的議員,ACLU對ReKognition的測試結果,引起了他的注意。
他指出,自己無意於和亞馬遜做對,但表示:「如果新科技可能對人們的隱私、自由權甚至性命產生深遠的影響時,就會引發不少疑慮。」

或許是受到開發臉部辨識科技工程師多為白人影響,現有的臉部辨識科技在面對白人臉譜時成功率也比較高。
Photo: Luke Peters資料庫裡白人多
美國喬治城大學法律中心(Georgetown Law School Center)的隱私與科技領域資深助理加維(Clare Garvie)表示,其中一個原因可能是出在工程師建立AI的臉部辨識資料庫時,提供的白人照片比有色人種多而導致。
工程師天生的限制
另外一個原因,可能來自於工程師本身。一份研究顯示,人們在辨識另一個種族的成員時,準確度會比辨識同一個種族的成員差,臉部辨識服務可能也受到類似結果的影響。
考量到大部分科技公司的工程師仍以白人男性居多,即使無意為之,他們開發出的臉部辨識服務在辨識白人的準確度,無形中也比其他種族高。

圖為美國白宮。目前人們的臉部辨識科技上存在疑慮,這也讓政府的適度介入管制顯得更重要。
Photo: David Everett Strickler
回應: