把他人臉孔轉移到色情片上 deepfake「假A片」惹議

by:泥仔
168253

本周三,美國知名社群平台Reddit宣布即刻禁止在未經同意下,把他人的影像移花接木到涉及裸露畫面、從事性行為的照片或影片,或是將這類「非自願性色情影像」傳播出去,各界相信此政策特別針對了在這幾個月越來越熱門的「deepfake」類型影片。「deepfake」背後的技術雖然能帶來不少好處,但是實際應用上卻引起了人們的憂慮......

post title

從去年開始,一個可以轉移他人臉部到影片的技術引起了人們的討論。

Photo: W H

什麼是deepfake?

數個月前,出現了一種非常方便的「影片換臉」AI技術,它會在分析目標對象各個角度的大量照片後,再透過演算法製造出目標對象的各種表情,藉此和影片中某個角色的面部表情完全契合,在影像合成後,乍看之下就像目標對象真的參與了影片演出。而由該技術製成的影片就會被稱為「deepfake」。

想要換臉  按下幾個鍵就好

2017年 12月,這項技術因為有人將《神力女超人》(Wonder Woman)女主角蓋兒加朵(Gal Gadot)的臉轉接到色情片上引起廣大關注。今年 1月,在一款被稱為「FakeApp」的軟體出現後,大家可以用更簡單的方式,就把目標對象的臉抽換成影片中的特定角色,這也讓deepfake影片的出現變得越來越常見。

這支尼可拉斯凱吉(Nicolas Cage)出現在各種片段的影片,即為其中一種deepfake影片。

deepfake影片也有惡搞片

並不是所有deepfake影片都與色情影像有關,有些人會製作惡搞美國總統川普(Donald Trump)的影片,或是把不同影星的臉放到各式各樣的電影中。

女性名人被轉接成A片角色

然而,有越來越多人利用這項技術,把一些名人臉孔轉接到A片上面,而且大部分的人都是女性。除了前面提到的蓋兒加朵,女星艾瑪華森(Emma Watson)、娜塔莉波曼(Natalie Portman),或是女性名人蜜雪兒(Michelle Obama)、伊凡卡(Ivanka Trump)、凱特王子妃(Kate Middleton)等人的再製影片都很廣泛地在各大網路平台流傳,這也讓網路公司有所動作。

post title

現在如果想去reddit的「Deepfake」、「Celebfakes」版面,都只會看到「此社群已遭禁止」的字樣。

Photo: reddit

非自願性的不可以

在reddit之前,圖片分享平台Gfycat、Imgur,社群媒體twitter,通訊軟體Discord,網路A片平台Pornhub都已經分別禁止了使用者分享未經當事人同意而發表的「非自願性色情影像」,deepfake類型的「假A片」自然也適用其中。

本周三(7),在reddit發布公告後,有 9萬1,000個人追蹤的「Deepfake」版隨即被關閉,此外,另一個已經開版 7年、專門製作分享名人假照片的「Celebfakes」版也遭關閉,不過沒有涉及「假A片」問題的deepfake影片並不會被禁止。

支持、反對意見都有

面對reddit的做法,有些網友表示支持,認為這種不尊重他人、毫無同理心或道德感的影片早該被禁止;不過也有網友認為「Deepfake」版並沒有惡意,其初衷只是想要應用並帶動新技術,有些人則認為就算reddit禁止,「假A片」也不會就此消失,反而會移動到其他可以容忍這類影片的網站。

post title

這款AI技術會透過大量的照片分析,來達成最好的面部再製效果,卻也帶來了爭議。

Photo: PIXNIO

當事人作何感想?

這也讓人們注意到這種換臉技術所衍生出的問題。以deepfake類型的「假A片」來說,BBC記者戴夫李(Dave Lee)指出,許多人也許想問:使用他人的臉孔來製作色情影片真的是不道德的嗎?如果它不是真實發生的,那就沒關係吧?有任何人會因此受到傷害嗎?

不過戴夫李認為,這些人應該問的是:這一切讓當事人有什麼感受?

現在想偽造很容易

「偽造他人的色情影像」並不是這幾年才有的事情,可是透過新出現的技術,讓任何人幾乎可以在幾天之內,就可以用電腦製作出想要的色情影像。除了名人會受到影響,這也有可能助長製作報復式的(假)性愛影片、兒童色情片等等。

其他人可能會信以為真

當有些人經由朋友轉傳、或是在非主站平台看到這些影片時,他們可能會誤信被移花接木的第三人真的是影片當事人。而且一旦影片傳播出去,想要把它從網路上消除可說一點也不容易。

post title

面對這些deepfake能夠移花接木的技術,人們擔心這會讓其他人誤信影片中的內容為真。

Photo: Joana Coccarelli

應該要取得同意才行

雜誌paper便寫到:「如果有一對伴侶想要試著把他們的臉放到一些A片上——盡量去做吧。然而,當你換臉的對象沒有機會拒絕時,這就是在濫用技術的時候了。」Mashable也抱持類似看法,寫到:「這個議題很簡單,不論是在現實或是虛擬情況下,一個人如果不願意被擺在一個帶有性的處境,就不應該這麼做。」

可能被拿來帶風向

另一方面,這項技術也帶來了既假新聞後,被拿來製作「假影片」的憂慮。喬治華盛頓大學的政治學教授法洛(Henry Farrell)和佩爾斯坦(Rick Perlstein)在《紐約時報》的評論專欄就寫到:「就算這類假影片並不完美,這還是能說服那些想被說服的人,特別是當它涉及性別或種族偏見的時候。」

post title

一項技術總是有好有壞,要怎麼防患未然總是一大難題。

Photo: Lane Fournerat

還是有好處的技術

儘管如此,來自卡內基美隆大學的莫隆斯博士(Dr.Louis-Philippe Morency)相信,這類技術其實還是能帶來娛樂以外的好處。舉例來說,一名患有創傷後壓力症候群的士兵如果因為害怕汙名化而不願就醫,他可以透過這項技術換掉自己的臉部,並透過視訊方式接受治療。或是讓人們在進行視訊面試時換臉,藉此杜絕所有的性別、種族偏見。

總而言之  木已成舟

無論如何,一如一名網友所說:「這個科技現在就在這裡,已經沒辦法回頭了。」在面對該科技能帶來的好處的同時,又要如何處理隨之而來的問題,就成為人們不容忽視的問題了。