惡名昭彰的deepfakes換臉技術,居然幫候選人圈住千萬選民的心!怎麼做到的?

by:山謬
6533
本文經授權轉載自友站數位時代文/ 陳建鈞 

被貼上各種負面標籤的deepfakes技術,在印度選舉中首度被用於正向的競選活動中,幫助觸及更多選民,為換臉技術的未來揭示另一種可能性。

post title

Deepfake背後所採取的人工智慧技術,可以分析計算人臉數據,成功達成「換臉」任務。

合作廠商

能夠替影片人物換臉的deepfakes技術自誕生以來,其遠播的惡名已被各方網路平台視為洪水猛獸。Facebook今年一月正式宣佈禁止這項技術後,YouTube、Twitter也相繼頒布規範阻止類似的換臉影片在平台上流通。

然而在與美國日夜顛倒的印度,對待deepfakes的態度似乎也截然不同。2月上旬舉辦的德里議員選舉中,這項技術成為了政黨用於宣傳政見、表達訴求的有力工具。

根據外媒《Motherboard》報導,就在德里議員選舉揭幕前一天,印度人民黨德里主席Manoj Tiwari兩段批評現任政府的影像在WhatsApp上大肆流傳,其中一部影片的語言是英語,而另一部則是以一種稱為哈里亞納語的印度方言述說。

德里議員選舉前一天,人民黨德里主席Manoj Tiwari使用「哈里亞納語」發布的影片

與上部影面內容相同,但改使用「英語」的版本。

這兩部44秒短片乍看之下只是尋常的政治宣傳影片,實際卻是利用Deepfakes技術所創造,而製作這些影片的不是別人,正是印度人民黨的資訊部門。他們與政治傳播公司The Ideaz Factory合作,攜手設計了兩種語言版本的宣傳影片。

換臉技術爭議難解,各大平台紛頒禁令

2017年,一位名為deepfakes的網友利用深度學習技術,將A片女主角臉蛋替換成飾演神力女超人的蓋兒.加朵而聲明大噪,這項換臉技術也因此為眾人所知悉。

沒多久,deepfakes除在成人影片領域發光發熱外,其在政治領域的「潛能」也被學者們挖掘出來。同年華盛頓大學研究團隊發表了一系列偽造的歐巴馬影片,以deepfakes技術調整眼神嘴型,再對上完全不同的對話內容。

華盛頓大學使用deepfake技術,發表一系列歐巴馬總統的影片

後deepfakes被用於干預選舉的擔憂甚囂塵上,Facebook、YouTube、Twitter等眾多平台都為了即將到來的美國總統大選,在今年頒布禁令限制相關影片曝光,而deepfakes用戶過去最大的集散地Reddit,也更新政策禁止所有類似的仿造內容。

甚至在台灣,今年總統大選前一個名為「哈囉樓主Lucid Film」的YouTube帳號,上傳了一支利用deepfakes製作,由「新店周星馳+景美吳孟達」主講的影片,其中因出現候選人韓國瑜的身影而引起一陣討論。

post title

由「撞臉劇團」過年期間以deepfake技術合成的影片,在網路上引起軒然大波。

合作廠商

助候選人克服印度多元語言,貼近千萬選民的心

但很多事物都有兩面性,deepfakes也不例外。早已被貼上負面標籤的這項技術,依據使用方法同樣能創造正面價值。印度人民黨聲稱,deepfakes幫助他們貼近國內更多選民,「deepfakes技術幫我們把競選活動推展到前所謂有的規模。」

印度是個語言極度紛雜的國家,光是認定的國家語言就有22種,實際被民眾使用的語言更是多達上千種,這為候選人創造了競選門檻,就如同不會說台語的候選人,很難獲得台灣部份地方選民的青睞。

印度人民黨社群媒體及IT負責人Neelkant Bakshi表示,即使候選人沒有實際講選民的語言,deepfakes創造的影片仍讓他們更為貼近目標觀眾。以deepfakes打造的影片,沒有配音的不自然與突兀。

post title

印度候選人在這次的選舉當中巧妙使用deepfake的換臉技術,在習慣使用不同語言的印度選民中,成功分享自己的理念。

合作廠商

印度人民黨透露,德里有相當大量的哈里亞納語移工。這部影片無疑是打入選民心中的關鍵策略,甚至有家庭主婦在群組中表示,很高興看見領導人在說他們的語言。

至於成績?非常成功。deepfakes製成的宣傳影片在社群媒體引發病毒式擴散,於德里及大首都圈(NCR region)約5,800個WhatsApp群組裡傳播,觸及民眾達1,500萬人。

Ideaz Factory策略長Sagar Vishnoi表示,這是deepfakes首度被應用於正向競選活動之中,雖然目前技術還不是很純熟,無法連聲音一起生成,依舊看好未來應用,甚至打算使用在2020年的美國總統大選上。

解鈴還須繫鈴人,deepfakes要洗刷污名還得靠AI

但並非所有人都像Ideaz Factory如此樂觀看待deepfakes,因為換臉技術最大的疑慮並非怎麼被使用,而是在「很難辨認真偽」上。印度事實查核網站AltNews創辦人Pratik Sinha就說,當無法核實影片真偽時,「這非常危險。」

尤其印度仍是開發中國家,民眾的資訊素養及求證能力都還有待培養,即使不那麼精巧的deepfakes影片都可能令廣大群眾深信不疑。不過,Ideaz Factory的應用依舊證明deepfakes可以為社會做出貢獻。

但未來,這項技術該如何納入規管、合理運用、杜絕假新聞,目前各國都還沒得出結論,解鈴還須繫鈴人,或許唯有識別deepfakes技術的AI普及那天,換臉技術才有得到平反的機會。

 

更多【數位時代】精彩內容:《中國明星換臉App Zao爆紅後卻被罵翻,開發團隊的暗黑史遭起底
韓國瑜拍電影了?新創用Deepfake惡搞候選人,這是神創作還是惡趣味?
上回聊天機器人Tay被玩壞,這次微軟派出「換臉」機器人Murphy