把他人臉孔轉移到色情片上 deepfake「假A片」惹議

by:泥仔
26167

本周三,美國知名社群平台Reddit宣布即刻禁止在未經同意下,把他人的影像移花接木到涉及裸露畫面、從事性行為的照片或影片,或是將這類「非自願性色情影像」傳播出去,各界相信此政策特別針對了在這幾個月越來越熱門的「deepfake」類型影片。「deepfake」背後的技術雖然能帶來不少好處,但是實際應用上卻引起了人們的憂慮......

post title

從去年開始,一個可以轉移他人臉部到影片的技術引起了人們的討論。

Photo: W H

什麼是deepfake?

數個月前,出現了一種非常方便的「影片換臉」AI技術,它會在分析目標對象各個角度的大量照片後,再透過演算法製造出目標對象的各種表情,藉此和影片中某個角色的面部表情完全契合,在影像合成後,乍看之下就像目標對象真的參與了影片演出。而由該技術製成的影片就會被稱為「deepfake」。

想要換臉  按下幾個鍵就好

2017年 12月,這項技術因為有人將《神力女超人》(Wonder Woman)女主角蓋兒加朵(Gal Gadot)的臉轉接到色情片上引起廣大關注。今年 1月,在一款被稱為「FakeApp」的軟體出現後,大家可以用更簡單的方式,就把目標對象的臉抽換成影片中的特定角色,這也讓deepfake影片的出現變得越來越常見。

這支尼可拉斯凱吉(Nicolas Cage)出現在各種片段的影片,即為其中一種deepfake影片。

deepfake影片也有惡搞片

並不是所有deepfake影片都與色情影像有關,有些人會製作惡搞美國總統川普(Donald Trump)的影片,或是把不同影星的臉放到各式各樣的電影中。

女性名人被轉接成A片角色

然而,有越來越多人利用這項技術,把一些名人臉孔轉接到A片上面,而且大部分的人都是女性。除了前面提到的蓋兒加朵,女星艾瑪華森(Emma Watson)、娜塔莉波曼(Natalie Portman),或是女性名人蜜雪兒(Michelle Obama)、伊凡卡(Ivanka Trump)、凱特王子妃(Kate Middleton)等人的再製影片都很廣泛地在各大網路平台流傳,這也讓網路公司有所動作。

post title

現在如果想去reddit的「Deepfake」、「Celebfakes」版面,都只會看到「此社群已遭禁止」的字樣。

Photo: reddit

非自願性的不可以

在reddit之前,圖片分享平台Gfycat、Imgur,社群媒體twitter,通訊軟體Discord,網路A片平台Pornhub都已經分別禁止了使用者分享未經當事人同意而發表的「非自願性色情影像」,deepfake類型的「假A片」自然也適用其中。

本周三(7),在reddit發布公告後,有 9萬1,000個人追蹤的「Deepfake」版隨即被關閉,此外,另一個已經開版 7年、專門製作分享名人假照片的「Celebfakes」版也遭關閉,不過沒有涉及「假A片」問題的deepfake影片並不會被禁止。

支持、反對意見都有

面對reddit的做法,有些網友表示支持,認為這種不尊重他人、毫無同理心或道德感的影片早該被禁止;不過也有網友認為「Deepfake」版並沒有惡意,其初衷只是想要應用並帶動新技術,有些人則認為就算reddit禁止,「假A片」也不會就此消失,反而會移動到其他可以容忍這類影片的網站。

post title

這款AI技術會透過大量的照片分析,來達成最好的面部再製效果,卻也帶來了爭議。

Photo: PIXNIO

當事人作何感想?

這也讓人們注意到這種換臉技術所衍生出的問題。以deepfake類型的「假A片」來說,BBC記者戴夫李(Dave Lee)指出,許多人也許想問:使用他人的臉孔來製作色情影片真的是不道德的嗎?如果它不是真實發生的,那就沒關係吧?有任何人會因此受到傷害嗎?

不過戴夫李認為,這些人應該問的是:這一切讓當事人有什麼感受?

現在想偽造很容易

「偽造他人的色情影像」並不是這幾年才有的事情,可是透過新出現的技術,讓任何人幾乎可以在幾天之內,就可以用電腦製作出想要的色情影像。除了名人會受到影響,這也有可能助長製作報復式的(假)性愛影片、兒童色情片等等。

其他人可能會信以為真

當有些人經由朋友轉傳、或是在非主站平台看到這些影片時,他們可能會誤信被移花接木的第三人真的是影片當事人。而且一旦影片傳播出去,想要把它從網路上消除可說一點也不容易。

post title

面對這些deepfake能夠移花接木的技術,人們擔心這會讓其他人誤信影片中的內容為真。

Photo: Joana Coccarelli

應該要取得同意才行

雜誌paper便寫到:「如果有一對伴侶想要試著把他們的臉放到一些A片上——盡量去做吧。然而,當你換臉的對象沒有機會拒絕時,這就是在濫用技術的時候了。」Mashable也抱持類似看法,寫到:「這個議題很簡單,不論是在現實或是虛擬情況下,一個人如果不願意被擺在一個帶有性的處境,就不應該這麼做。」

可能被拿來帶風向

另一方面,這項技術也帶來了既假新聞後,被拿來製作「假影片」的憂慮。喬治華盛頓大學的政治學教授法洛(Henry Farrell)和佩爾斯坦(Rick Perlstein)在《紐約時報》的評論專欄就寫到:「就算這類假影片並不完美,這還是能說服那些想被說服的人,特別是當它涉及性別或種族偏見的時候。」

post title

一項技術總是有好有壞,要怎麼防患未然總是一大難題。

Photo: Lane Fournerat

還是有好處的技術

儘管如此,來自卡內基美隆大學的莫隆斯博士(Dr.Louis-Philippe Morency)相信,這類技術其實還是能帶來娛樂以外的好處。舉例來說,一名患有創傷後壓力症候群的士兵如果因為害怕汙名化而不願就醫,他可以透過這項技術換掉自己的臉部,並透過視訊方式接受治療。或是讓人們在進行視訊面試時換臉,藉此杜絕所有的性別、種族偏見。

總而言之  木已成舟

無論如何,一如一名網友所說:「這個科技現在就在這裡,已經沒辦法回頭了。」在面對該科技能帶來的好處的同時,又要如何處理隨之而來的問題,就成為人們不容忽視的問題了。


延伸閱讀:《虛擬實境中的性騷擾算數嗎?
「榮恩吃掉了妙麗的爸媽」 用AI幫哈利波特寫續集
性愛機器人的黑暗面 滿足性還是犯罪欲?

參考資料:
01 Reddit bans fake porn that uses other people's faces
02 Deepfakes porn has serious consequences
03 DEEPFAKE A.I. PORN IS TECHNICALLY LEGAL (AND ABUSIVE)
04 Reddit bans ‘deepfakes’ AI porn communities
05 A guide to 'deepfakes,' the internet's latest moral crisis
06 Reddit bans deepfake porn videos

加入好友

分享:

  分享這篇文章