已故歌王回來了？
自從南韓老牌藝人金光石於 1996年離世後，他的歌迷便對他念念不忘，許多人至今仍會到他的出生地南韓大邱市走一遭，彷彿這樣就能離他更近一點。
因此，當耳聞南韓電視台SBS將於全新歌唱節目「世紀之戰：人與AI之戰」中，讓金光石再度登台演出後，歌迷們無不期待。
不是本人，是AI
根據SBS方面的說法，他們預計借助AI模仿人聲技術之力，讓AI學習金光石、現役女歌手玉珠鉉各自的演唱風格、技巧後，再讓AI以兩人的聲音演出二重唱。
「世紀之戰」節目的製作人南相文(Nam Sang-moon，音譯)表示，這檔節目的靈感來自於 2019年南韓棋王李世乭與南韓自行研發的AI HanDol對弈後，民眾對AI領域所燃起的一股好奇心，而他認為這檔節目足以滿足民眾的好奇心。
在節目播出前，SBS就已經釋出一支影片，向觀眾解釋它們是如何讓離世多年的金光石再度登上舞台。
多聽、多學 熟能生巧
這次，SBS的製作團隊選擇與 2020年剛成立的南韓AI新創Supertone合作，它們擅長利AI技術模仿知名藝人的聲音，替藝人分擔錄製有聲書、動畫配音等案子的工作量，藉此替藝人們省下寶貴的時間。這回它們也打算利用同樣的技術，好替金光石、玉珠鉉兩人完成二重唱表演。
事實上，SBS先前已經釋出一段AI版金光石的演唱影片，以及這段影片的製作過程，不僅獲得了粉絲們的好評，也讓他們更加期待屆時的表演。
好玩，但也反映很多危機
在普羅大眾眼中，SBS的這檔節目充滿趣味；但在專家們眼中，他們卻從中看見AI模仿人聲技術背後潛藏的危機：在不久的將來，這項技術是否會成為歹徒最新的犯案工具？
大腦不擅長分辨聲音
科學家指出，相較於辨識真假影像，人類大腦更不擅長辨認一段音檔的真偽，意味著即便技術還未臻完美，偽造音檔仍然有可能騙過人類的耳朵。
操作門檻大幅降低
同時，近年來AI模仿人聲技術也進展飛快，讓AI在學習人聲過程中所需要的音檔來越少、學習時間也越來越短，大幅降低有心者生產一段幾可亂真音檔的難度，現在更有不少民間公司號稱只要使用他們的產品，就能輕鬆模仿真人聲音。
「你可不需要擁有一個數學博士學位，才會操作這些軟體。」資安公司Endgame的數據科學部門負責人菲拉(Bobby Filar)說。
技術不足，用詐騙老技倆補足
好在，由於目前的技術未臻完美，因此如果人們在「情緒冷靜、環境理想」的狀況下聆聽，確實有機會分辨出一些音檔的真偽。
但通常歹徒會編出各式各樣的藉口，像是電話聽筒問題、現在人在電梯裡等，解釋偽造音檔中的奇怪之處；同時，再搭配古老的詐騙伎倆，像是高層主管在等、趕時間等手法，讓受騙者無暇思考，往往就能成功犯案。
資安公司諾頓LifeLock的資深研究員辛特(Saurabh Shintre)指出：「當你替受害者創造出一個充滿壓力的環境，他們思考、質疑自己的能力就會消失，這時加害者們就得逞了。」
已經有人上當
這絕非是專家們杞人憂天，事實上在 2019年，已經有一名英國能源公司的CEO上當，被詐騙集團用偽造音檔騙走了 22萬歐元(折台幣約 630萬7,400元)。
語調、斷句、口音幾乎一樣
當時，這名CEO誤信歹徒偽造的一份音檔，以為德國母公司的主管要他將錢轉到一個匈牙利供應商的戶頭中，等他發現上當，這筆錢已經無法追回。根據該英國公司的保險公司裕利安宜(Euler Hermes)的說法，那段音檔將德國主管的聲音模仿得唯妙唯肖，語調、斷句和口音都與本人相距不遠。
美國史丹福大學網路政策中心成員兼前白宮網路安全政策資深總監格羅托(Andrew Grotto)說道：「10年前，『AI模仿人聲』聽起來還很奇怪，但現在任何有想像力的罪犯，即便是個外行，也能輕鬆使用。」
政策、科技都可行，提升民眾警覺最關鍵
目前，各國政府和國際組織都已經意識到這類使用AI技術犯罪的嚴重性，試圖透過立法來處理這個問題，像是聯合國教科文組織(UNESCO)、南韓政府等，先後都已針對AI的應用發布官方文件；民間公司也在試圖利用科技的力量辨識一段音檔的真偽。
但《富比士》雜誌的編輯馬爾(Bernard Marr)指出，科技可以解決部分問題，但無法確保它永遠有用。他認為，當務之急還是提升民眾對AI模仿人聲技術、背後風險等知識的理解，才能確保民眾不至於輕易上當。