手握160萬名病人數據 Google DeepMind和英國NHS合作違法

by:徽徽
4898

在這個講究大數據的時代,有了數據就能發展人工智慧,然而數據的取得往往牽涉複雜的個人隱私議題。近日,Google收購的人工智慧公司DeepMind和英國國民保健署的合作被推上了風口浪尖。

post title

兩年前,人工智慧公司DeepMind和英國國民保健署的合作引發侵犯病人隱私的爭議,最近當局的判決報告才出爐。

Photo: Intellitech I.T. Solutions Ltd

160萬名病患資料  開發腎臟監測app

兩年前,Google旗下劃時代的人工智慧公司DeepMind開始和英國國民保健署(NHS)合作,由NHS提供DeepMind倫敦皇家免費醫院裡 160萬名病人的數據,供他們利用這一大筆資料開發名為Streams的腎臟監測app。

然而,這種做法引發譁然,學者撰文批評NHS和DeepMind這麼做侵犯了病人隱私,當局也成立了獨立審查小組,進一步調查這項合作案的來龍去脈。

NHS沒有好好保護病患

周一(3),英國專門負責保護個資隱私的資訊專員辦公室(ICO)表示,在這項合作案中,NHS在保護病患資訊上做得不夠多。

post title

DeepMind這家英國人工智慧公司在 2014年被Google收購,它最出名的就是開發出人工智慧圍棋程式AlphaGo。圖為今年五月正在跟AlphaGo對弈的中國棋王柯潔。

路透社

審查小組:合約有「缺陷」

負責帶領獨立審查小組的哈伯特(Julian Huppert)博士表示,NHS一開始和DeepMind簽訂的合約有「缺陷」,在爆出侵犯病人隱私的消息後,雙方修改的合約版本「也需要大改」。

和其他單位不一樣

此外,獨立審查小組提到,NHS和DeepMind最初的合約跟NHS和其他第三方簽訂的數據分享合約很不一樣,雖然DeepMind表示他們的合約和其他單位沒有不同。

擔心科技鉅子  用高標準檢視DeepMind

哈伯特博士補充到,雖然ICO主要批評的對象是掌管病患資訊的NHS,但獨立審查小組認為DeepMind也需要小心。哈伯特博士說:「人們擔心大型科技公司的力量,我們認為應該用高標準來檢視DeepMind,因為它和Google有關係。」

post title

英國ICO表示,和DeepMind合作的醫院沒有善盡保護病人數據的責任,且科技公司在利用大數據研發新事物時,代價不該是侵犯基本隱私權。

Photo: Descrier

創新的代價

無論如何,在這起侵犯病患個資的合作案中,英國ICO表示醫院沒有遵守《數據保護法》,連帶DeepMind在使用從醫院獲得的數據時也屬「非法」。

英國資訊專員德納姆(Elizabeth Denham)表示,雖然有創意地使用數據對病患有益,但是「創新的代價不該是侵犯基本隱私權」。

違反《數據保護法》

ICO也公布了NHS和DeepMind合作案違反了四項數據保護原則,其中包含公平合法處理數據、保證被處理的數據有相關性、禁止超量使用數據,且確保對數據進行適當管制。

post title

現在人工智慧和大數據正流行,DeepMind和NHS的合作案也受到外界的注意,產業界也在關注監管單位的處置方式。

Photo: CHRISTOPHER DOMBRES

照著要求走  最終不開罰

現在,ICO要求皇家免費醫院對DeepMind和醫院之間的數據共享案交由第三方審核,並且將審核結果公開。皇家免費醫院已經簽署了承諾書且提交給了ICO,同意會照著ICO的要求走,而最終ICO並沒有針對NHS開罰。

ICO「懲罰」太輕

持續在追蹤這個案子的專家們表示,ICO這樣的「懲罰」太輕。英國全國數據保護官協會(National Association of Data Protection Officers)主席貝恩斯(Jon Baines)說:「我認為ICO確定(該合作案)違反多條《數據保護法》這件事很不簡單...但卻沒有採取正式的執法行動。」

「ICO有權開罰高達 50萬英鎊(折台幣約 2,014萬元)的行政罰鍰,但卻選擇不行使這些權力。」

很多人和貝恩斯想的一樣,根據DeepMind內部的消息來源指出,他們自己也覺得ICO的處置很溫和。

AI界支持溫和監管

無論如何,人工智慧產業界歡迎這樣的判決。

專門處理醫療健康數據的人工智慧公司Evolution AI創辦人古德森(Martin Goodson)說:「這個結局很正面,這是一個相當輕微的監管方法,我認為這麼做很恰當。」古德森的公司並沒有因為該判決直接受影響,因為和他合作的醫療組織並沒有移轉病人的數據給他。

post title

如果數據是新的石油,病人的醫療數據就是新的石油熱,讓不少科技公司趨之若鶩。

路透社

病人隱私話題延燒

雖然ICO對NHS和DeepMind的合作案輕輕放下,但各界對醫院和人工智慧公司合作以及病人隱私等相關議題早已關注多時。非營利組織「隱私國際」(Privacy International)的法律人員法切達(Tomaso Falchetta)說:「調查結果不只對其他公家單位釋出強烈訊號,也對那些越來越多想要我們資料的公司發出訊號。」

誰能捍衛醫療個資?

DeepMind和皇家免費醫院的合作,也代表將老舊的醫院電腦系統拖進全新的技術複雜時代。QUARTZ的報導中寫到,這也代表唯一可以捍衛民眾醫療個資的工具是隱私保護法和監管單位。

新世代數據石油熱

如果數據是新的石油,那麼大眾醫療數據就是新的石油熱。撰寫NHS和DeepMind合作案調查報告的英國劍橋大學法律博士鮑爾斯(Julia Powles)和《經濟學人》記者霍德森(Hal Hodson)寫到:「沒有人就沒有數據,沒有數據就沒有人工智慧。碰巧幸運地,企業發現了一個能讓光靠我們生活就能生產的產品賺錢的方式。」

post title

在倫敦聖湯瑪斯醫院裡,病房掛了一幅國會大廈和大笨鐘的圖片。DeepMind共同創辦人蘇雷曼坦承對病人數據保護的缺失,他也在部落格中寫到會繼續改善做得更好。

路透社

確保為社會優先服務

面對合作案引發社會對侵犯隱私的爭議,DeepMind在部落格中坦承缺失。DeepMind共同創辦人蘇雷曼(Mustafa Suleyman)寫到:「如果我們最終想打造能支持像NHS這樣子的重要社會機構的科技,我們得確保為社會的優先事項服務,而非超越它們。」

「在尋找令人興奮的新方法改善醫療照護,以及超越病患的期待間僅有一線之隔。我知道當我們開始在醫療這塊工作時,我們在這方面有所不足,我們會繼續傾聽和學習如何做得更好。」


延伸閱讀:《Google:Gmail用戶不該期望隱私
個人隱私還是國家安全重要?FBI要蘋果解鎖恐怖分子手機
隱私權受損、假新聞當道 網路之父談現今網路隱憂

參考資料:
01 DeepMind held 1.6 million people’s health records unlawfully, but no one’s getting fined for it
02 DeepMind’s access to UK health data shows how tech could outgun privacy laws
03 Google DeepMind’s NHS deals were scrutinised in a new report — but tough questions remain unanswered
04 Google NHS deal rebuked again by DeepMind panel