微軟AI新聞編輯新登場 搞混明星惹議

by:山謬
5522

最近,微軟公司宣布要讓AI新聞編輯取代旗下的約聘新聞編輯。沒想到,AI編輯才剛上任未滿一個月,馬上出包,引發人們對AI新聞能力、整體臉部辨識科技的疑慮。

post title

圖為一群人在微軟的商標前使用電子產品。最近,微軟大動作宣布要用「AI新聞編輯」,取代原本的人類編輯,引發人們的關注。

路透社/達志影像

新的編輯,新的未來

五月底,微軟公司宣布打算用「AI新聞編輯」,取代旗下數十名每天負責選稿、配圖的約聘新聞編輯。消息傳出後,立刻引起許多人的關注,大家從未料到「AI取代人類」的時代居然來得這麼快。

然而,「AI新聞編輯」上任不滿一個月就立刻捅出婁子,誤認兩名知名女歌手,引起對方的不滿,更讓人們開始疑惑:為何臉部辨識科技在辨識有色人種時特別容易失敗?

文章轉載 利潤對分

在微軟的分工中,約聘新聞編輯主要負責挑選重要新聞,視情況重新下標、調整格式、配圖,最後發佈於微軟自己的新聞網站上,微軟會將部分刊登新聞獲得的廣告利潤分給引用的媒體作為回報。

約聘編輯的工作 AI新聞編輯也可以

AI新聞編輯上任後,分配到的也是類似的工作,只是全數改由演算法分析,重新下標、配圖,將通通交給AI負責而非人工判斷。

post title

圖為一名看報紙的男子。在微軟中,這些約聘新聞編輯主要負責選稿、調整格式等簡單的編輯工作。

Photo: Roman Kraft

我真的被取代了......

一名被解僱的編輯說道:「我花許多時間閱讀自動化和AI最終將取代人類的工作,現在就發生在我身上:AI搶走我的工作了。」

但凡企業,就要升級

在微軟眼中,解僱這些編輯不過是公司例行性升級、進化的一個過程。微軟的發言人出面表示:「就像所有的公司一樣,我們也會定期改善公司,例如:在特定領域擴大投資、每隔一段時間重新調整人力配置。這次本公司的決定並非出於受疫情影響而做的決定。」

post title

圖為混合甜心四人一起出席NBC電視台在紐約舉辦的《今日秀》。(左起:席爾沃、尼爾森(Jesy Nelson)、賓諾克、愛德華茲(Perrie Edwards)。)

路透社/達志影像

遵守嚴格編輯規則不容易

然而,並非所有人都像微軟公司一樣看好用AI新聞編輯取代人類編輯的決定。一名匿名編輯表示,他認為公司的決定得冒一點風險,因為編輯們在編輯新聞時必須遵守一套非常嚴格的編輯守則,對於AI來說未必是件容易的事。

舉例來說:避免讓血腥暴力、不恰當的內容出現在首頁、使用者一打開瀏覽器就會看到的位置,這對年輕的使用者來說尤其重要。

新手AI編輯配圖出包

今年六月初,AI新聞編輯選擇一篇英國樂團混合甜心(Little Mix)的成員席爾沃(Jade Thirlwall)分享自己過去遭遇種族歧視經驗的新聞時,卻誤將同樂團的成員賓諾克(Leigh-Anne Pinnock)誤判成席爾沃放入新聞,引發席爾沃不滿。外界也質疑,微軟的AI編輯系統在辨識有色人種上是不是表現特別差?

post title

AI新聞編輯出包後,席爾沃馬上在自己的Instagram上發文表達不滿。

Photo: NeONBRAND

「MSN,加油好嗎!!」

事發後,席爾沃馬上在自己的Instagram上抱怨道:「MSN(註)如果你們打算複製貼上別家內容正確無誤媒體的新聞,拜託確認一下你們能正確分辨混合甜心不同成員的照片好嗎?」

她接著補充:「這種爛事反覆發生在我和賓諾克身上,已經變成一個笑話了......。這件事讓我覺得被冒犯,你們居然沒辦法從僅僅 4個人的樂團中,區分兩個有色人種的女生究竟誰是誰,加油好嗎!」

註:MSN是微軟的新聞平台。

微軟:演算法沒問題,新功能測試中

對於AI新聞編輯出的紕漏,微軟方面表示,近期他們正在測試讓AI新聞編輯選擇示意圖的新功能,這回配圖錯誤與AI新聞編輯本身演算法設計並沒有關聯。

post title

圖為一張臉部辨識的廣告。目前人類擁有的臉部辨識科技尚無法百分百準確比對,特別是在有色人種辨識上容易出錯。

路透社/達志影像

AI臉部辨識大測驗

不過,這也印證了人們一直以來的擔憂:現有的臉部辨識技術在遇上有色人種時,似乎特別容易犯錯。

2018年,美國公民自由聯盟(American Civil Liberties Union,ACLU)就對亞馬遜提供一般人付費使用的臉部辨識服務Rekognition作了一項測試:ACLU從公開管道蒐集 2萬5,000張嫌犯照片作為臉部辨識的資料庫,使用預設的設定,一張一張的讓Rekognition比對國會兩院的議員和資料庫裡的照片,並檢視最終成果。

有色人種特別容易出錯

最後,總共有 28名國會議員被誤判。然而,即便現實中有色人種國會議員的比例只佔了 20%,在誤判的議員中,有 40%的議員是有色人種。

這就引起部分人的疑慮,因為美國警方同樣也使用亞馬遜提供的這套Rekognition臉部辨識服務,目前越來越多場合也能看到臉部辨識科技的身影,會不會使用過程中,反而不知不覺侵犯了有色人種的權利(註)?

註:目前,亞馬遜已經因Rekognition在有色人種臉部辨識方面的問題,暫停提供這套系統給美國政府使用。

可能侵犯他人權利

加州眾議員戈梅茲(Jimmy Gomez)是其中一名被誤判的議員,ACLU對ReKognition的測試結果,引起了他的注意。

他指出,自己無意於和亞馬遜做對,但表示:「如果新科技可能對人們的隱私、自由權甚至性命產生深遠的影響時,就會引發不少疑慮。」

post title

或許是受到開發臉部辨識科技工程師多為白人影響,現有的臉部辨識科技在面對白人臉譜時成功率也比較高。

Photo: Luke Peters

資料庫裡白人多

美國喬治城大學法律中心(Georgetown Law School Center)的隱私與科技領域資深助理加維(Clare Garvie)表示,其中一個原因可能是出在工程師建立AI的臉部辨識資料庫時,提供的白人照片比有色人種多而導致。

工程師天生的限制

另外一個原因,可能來自於工程師本身。一份研究顯示,人們在辨識另一個種族的成員時,準確度會比辨識同一個種族的成員差,臉部辨識服務可能也受到類似結果的影響。

考量到大部分科技公司的工程師仍以白人男性居多,即使無意為之,他們開發出的臉部辨識服務在辨識白人的準確度,無形中也比其他種族高。

post title

圖為美國白宮。目前人們的臉部辨識科技上存在疑慮,這也讓政府的適度介入管制顯得更重要。

Photo: David Everett Strickler

肌膚偏黑、化妝都會影響準確度

其他原因包括面對黝黑的皮膚時,電腦比較難比對皮膚的顏色、女性如果化妝隱藏皺紋或是改變髮型,都會增加正確辨識的難度。

政府管理就是最好的管理辦法

對此,不少公民團體就呼籲政府適度立法介入以保護人們的權益。

微軟總裁史密斯(Brad Smith)在部落格上寫道:「控管政府使用新科技最有效的辦法,就是政府自行、主動控管如何使用。如果對未來一項新科技在社會中廣泛使用有疑慮,最有效的管理方法就是交由政府制定規範管理。」