新的編輯，新的未來

五月底，微軟公司宣布打算用「AI新聞編輯」，取代旗下數十名每天負責選稿、配圖的約聘新聞編輯。消息傳出後，立刻引起許多人的關注，大家從未料到「AI取代人類」的時代居然來得這麼快。

然而，「AI新聞編輯」上任不滿一個月就立刻捅出婁子，誤認兩名知名女歌手，引起對方的不滿，更讓人們開始疑惑：為何臉部辨識科技在辨識有色人種時特別容易失敗？

文章轉載 利潤對分

在微軟的分工中，約聘新聞編輯主要負責挑選重要新聞，視情況重新下標、調整格式、配圖，最後發佈於微軟自己的新聞網站上，微軟會將部分刊登新聞獲得的廣告利潤分給引用的媒體作為回報。

約聘編輯的工作 AI新聞編輯也可以

AI新聞編輯上任後，分配到的也是類似的工作，只是全數改由演算法分析，重新下標、配圖，將通通交給AI負責而非人工判斷。

我真的被取代了......

一名被解僱的編輯說道：「我花許多時間閱讀自動化和AI最終將取代人類的工作，現在就發生在我身上：AI搶走我的工作了。」

但凡企業，就要升級

在微軟眼中，解僱這些編輯不過是公司例行性升級、進化的一個過程。微軟的發言人出面表示：「就像所有的公司一樣，我們也會定期改善公司，例如：在特定領域擴大投資、每隔一段時間重新調整人力配置。這次本公司的決定並非出於受疫情影響而做的決定。」

遵守嚴格編輯規則不容易

然而，並非所有人都像微軟公司一樣看好用AI新聞編輯取代人類編輯的決定。一名匿名編輯表示，他認為公司的決定得冒一點風險，因為編輯們在編輯新聞時必須遵守一套非常嚴格的編輯守則，對於AI來說未必是件容易的事。

舉例來說：避免讓血腥暴力、不恰當的內容出現在首頁、使用者一打開瀏覽器就會看到的位置，這對年輕的使用者來說尤其重要。

新手AI編輯配圖出包

今年六月初，AI新聞編輯選擇一篇英國樂團混合甜心(Little Mix)的成員席爾沃(Jade Thirlwall)分享自己過去遭遇種族歧視經驗的新聞時，卻誤將同樂團的成員賓諾克(Leigh-Anne Pinnock)誤判成席爾沃放入新聞，引發席爾沃不滿。外界也質疑，微軟的AI編輯系統在辨識有色人種上是不是表現特別差？

「MSN，加油好嗎！！」

事發後，席爾沃馬上在自己的Instagram上抱怨道：「MSN(註)如果你們打算複製貼上別家內容正確無誤媒體的新聞，拜託確認一下你們能正確分辨混合甜心不同成員的照片好嗎？」

她接著補充：「這種爛事反覆發生在我和賓諾克身上，已經變成一個笑話了......。這件事讓我覺得被冒犯，你們居然沒辦法從僅僅 4個人的樂團中，區分兩個有色人種的女生究竟誰是誰，加油好嗎！」

註：MSN是微軟的新聞平台。

微軟：演算法沒問題，新功能測試中

對於AI新聞編輯出的紕漏，微軟方面表示，近期他們正在測試讓AI新聞編輯選擇示意圖的新功能，這回配圖錯誤與AI新聞編輯本身演算法設計並沒有關聯。

AI臉部辨識大測驗

不過，這也印證了人們一直以來的擔憂：現有的臉部辨識技術在遇上有色人種時，似乎特別容易犯錯。

2018年，美國公民自由聯盟(American Civil Liberties Union，ACLU)就對亞馬遜提供一般人付費使用的臉部辨識服務Rekognition作了一項測試：ACLU從公開管道蒐集 2萬5,000張嫌犯照片作為臉部辨識的資料庫，使用預設的設定，一張一張的讓Rekognition比對國會兩院的議員和資料庫裡的照片，並檢視最終成果。

有色人種特別容易出錯

最後，總共有 28名國會議員被誤判。然而，即便現實中有色人種國會議員的比例只佔了 20%，在誤判的議員中，有 40%的議員是有色人種。

這就引起部分人的疑慮，因為美國警方同樣也使用亞馬遜提供的這套Rekognition臉部辨識服務，目前越來越多場合也能看到臉部辨識科技的身影，會不會使用過程中，反而不知不覺侵犯了有色人種的權利(註)？

註：目前，亞馬遜已經因Rekognition在有色人種臉部辨識方面的問題，暫停提供這套系統給美國政府使用。

可能侵犯他人權利

加州眾議員戈梅茲(Jimmy Gomez)是其中一名被誤判的議員，ACLU對ReKognition的測試結果，引起了他的注意。

他指出，自己無意於和亞馬遜做對，但表示：「如果新科技可能對人們的隱私、自由權甚至性命產生深遠的影響時，就會引發不少疑慮。」

資料庫裡白人多

美國喬治城大學法律中心(Georgetown Law School Center)的隱私與科技領域資深助理加維(Clare Garvie)表示，其中一個原因可能是出在工程師建立AI的臉部辨識資料庫時，提供的白人照片比有色人種多而導致。

工程師天生的限制

另外一個原因，可能來自於工程師本身。一份研究顯示，人們在辨識另一個種族的成員時，準確度會比辨識同一個種族的成員差，臉部辨識服務可能也受到類似結果的影響。

考量到大部分科技公司的工程師仍以白人男性居多，即使無意為之，他們開發出的臉部辨識服務在辨識白人的準確度，無形中也比其他種族高。

肌膚偏黑、化妝都會影響準確度

其他原因包括面對黝黑的皮膚時，電腦比較難比對皮膚的顏色、女性如果化妝隱藏皺紋或是改變髮型，都會增加正確辨識的難度。

政府管理就是最好的管理辦法

對此，不少公民團體就呼籲政府適度立法介入以保護人們的權益。

微軟總裁史密斯(Brad Smith)在部落格上寫道：「控管政府使用新科技最有效的辦法，就是政府自行、主動控管如何使用。如果對未來一項新科技在社會中廣泛使用有疑慮，最有效的管理方法就是交由政府制定規範管理。」