父親為看診拍下兒子裸照 卻被AI判定是性犯罪者

本文經授權轉載自友站Inside硬塞的網路趨勢觀察文/ Jocelyn 

在COVID-19流行期間,許多人仰賴視訊看診,美國舊金山的一位父親就在疫情期間發現兒子下體紅腫發炎,愛子心切的他拿起手機拍下兒子私密處的高畫質照片傳給醫生、請醫生視訊看診。過沒幾日,兒子的問題得到解決,但這位父親卻發現自己被捲入麻煩的事件——他的Google帳戶全部停擺,還成為警方調查的目標。

文章插圖

愛子心切卻被判定為性犯罪者

根據《紐約時報》報導,去年 2 月一位父親 Mark 注意到兒子私密處發炎,但由於疫情下診所仍休診,因此在護士的建議下, Mark 使用安卓(Android)手機拍下兒子腹股溝(又稱鼠蹊部)的照片,將照片傳給醫生後再進行視訊診斷。在 Mark 拍下照片的兩天後,即收到 Google 的通知,告訴他由於帳號出現疑似非法的有害內容,因此帳號已遭 Google 鎖定。

Mark 無法使用 email、通訊錄、照片,且因為他使用的是 Google 電信服務 Google Fi,因此連手機號碼都遭停用,他也曾試圖申訴 Google 的決定,但都被 Google 拒絕。2021 年 12 月警察針對 Mark 的事件展開調查,證實這次事件與犯罪無關。 

用AI演算法防堵兒童色情照片

像其他網路平台 FacebookTwitter 等,Google 對於照片的審查是透過微軟的 PhotoDNA 圖片辨識比對技術,而這樣的機制曾在 2012 年成功逮捕一位藉 Gmail 傳送兒童色情照片的性犯罪者。

2018 年 Google 推出圖片審查的 AI 工具,透過 AI 來辨識從沒見過的兒童性虐資料(CSAM),並以最快的速度下架照片並通報。Google 發言人指出,藉由機器學習,並建立雜湊值(hash value,又稱數位指紋),來與已知的 CSAM 內容相比對。AI 發現不適當的內容後,Google 將通報相關組織。另外發言人也說 Google 只會在用戶對照片採取動作時,加以審查,包括將照片複製到 Google 相簿中等行為。

而對於誤舉報的事件,Google 給出的回應則是,公司遵照美國法律並運用雜湊值和 AI 來判定哪些內容是 CSAM,另外 Google 也設有團隊來檢視遭舉報的內容是否準確,且也有諮詢小兒科醫生來辨識那些照片是用於醫療需求。

文章插圖

舉著審查大旗 卻侵犯到用戶隱私

儘管藉由照片審查來保護兒童的權益固然重要,但審查機制背後的隱私問題也受到質疑。Apple在去年推出了保護兒童的計畫(Child Safety Plan),Apple 會在用戶上傳照片至 iCloud 前進行審查,方式與 Google 相似,如果雜湊值與已知的 CSAM 照片相符,則會轉由人工審查,來判定是否有需要鎖定該帳號。

計畫推出後提倡數位權益的非營利組織 The Electronic Frontier Foundation(EFF)指出,這危害到了 iCloud 使用者的權益。Apple 也因此暫緩了計畫,但隨著 iOS 15.2 的推出,Apple 讓父母得以選擇,是否在家庭共享計畫的兒童帳號中加入照片審查機制,若父母同意則小孩帳號的「訊息」App 將審查裡面的照片是否有裸露元素,若有審查到 Apple 則會將照片模糊化,並提出警訊以及提供可以協助網路安全的資源。

而對於 Google 此次事件,EFF 的 Jon callas 認為這樣審查功能是侵犯權益的,他表示用戶擔心的就是帳號中的家庭相簿被審查後惹上麻煩。

Google寧可錯殺也不放過?

台灣的一位用戶也發生類似於 Mark 的情況,他懷疑因自己的雲端硬碟存放衛教文章所需的兒童生殖器照片,而受到 Google 審查,進而造成帳號被無預警的停用。他也警告帳號遭停用後不僅 email 和存在 Chrome 裡的密碼不能使用,而造成後續麻煩外,任何一次性付費的 Google App 也需重新購買,甚至他的 Youtube Premium 帳號在被停用後仍持續被扣款。

Google 的照片審查的確曾有效阻止了犯罪事件,但對於要將私密照片用於正當醫療用途上的使用者,只要出現了審查錯誤,即會讓用戶的使用權益收到侵害,也容易讓用戶難以再次信任公司所提供的服務。

Inside硬塞的網路趨勢觀察 logo

Inside硬塞的網路趨勢觀察

INSIDE是台灣科技媒體領導品牌,成立於2009年11月,係由一群熱愛網路的人所成立的共筆部落格。我們專注於觀察創新、科技、新媒體與網路的趨勢發展,報導新創公司、創業家、網站、行動平台、社群媒體、行銷與數位內容。

arrow_forward

文章功能

comment 1
bookmark_border
more_vert