魔鬼終結者成真?科學家連署反人工智慧軍武

by:徽徽
12457

你記得電影《魔鬼終結者》中可怕的殺手機器人嗎?擁有人工智慧的它無人能敵,對人類造成不少傷害。周二(28)這天,全球知名科學家和科技界大老連署發表了一封公開信,警告未來可能會有新一輪的世界軍備競賽,使用的正是人工智慧軍武。

post title
網友

科學家們擔心,人工智慧研究將製造出殺手機器人,造成世界大亂。圖為科幻電影《魔鬼終結者》中的殺手機器人。Photo credit: Nathan Rupert


新一輪軍備競賽
BBC、《美聯社》、《金融時報》綜合報導,周二(28),全球知名科學家和科技界領導者在阿根廷布宜諾斯艾利斯國際人工智慧聯合會議(International Joint Conference on Artificial Intelligence)上,連署發表一封公開信,信中警告道:「人工智慧軍武競賽是個壞主意。」

這封連署信要反對的正是近來受軍武界關注的「殺手機器人」,聯合國委員會也正在討論,要不要禁止某些類型的自動武器。

第三次戰爭革命
雖然所謂的「機器人兵團」還只是紙上談兵,不過,隨著電腦運算能力和人工智慧的快速發展,預估 20年內就可以生產出「機器人兵團」。這些致命的人工智慧軍武不需要人操控,就可以自動辨識還有攻擊目標,預計將引發繼火藥和核武後的「第三次戰爭革命」。

 

post title
路透社

人工智慧軍武要是發展順利,有可能像AK-47步槍一樣成為劃時代的致命武器。圖中一名葉門小男孩手上拿著的正是AK-47步槍。


未來的AK-47步槍
反人工智慧軍武的公開信中寫道:「自動武器對暗殺、動搖國家、鎮壓群眾還有選擇性地屠殺某一特定種族等任務來說很理想。」

現在,專家學者們呼籲嚴禁利用人工智慧製造「超出人類控制」的武器:「就像大部分的化學家和生物學家一樣,(他們)對製造化學或生物武器沒興趣,大部分研究人工智慧的學者也對製造人工智慧武器沒興趣,也不希望其他人這麼做來玷汙他們的領域。」

此外,信中也指出,只要有主要的軍事力量跳下來推動自動武器的發展,人類「幾乎無法避免全球軍備競賽,而科技發展的結局顯而易見:自動化武器將變成未來的AK-47步槍。」

 

post title
網友

人工智慧軍武出現在獨裁者的手上只是時間早晚的問題。Photo credit: Evan O'Neil


早晚出現在黑市
科學家們也警告,人工智慧軍武和核武不同,一旦人工智慧武器發展完成,它們不需要昂貴或稀有的原料就可以大量製造。

「它們(人工智慧軍武)出現在黑市上、恐怖分子手上、想控制人民的獨裁者手上還有想要行種族清洗的軍閥手上,只是早晚的問題。」

不過,也有人指出讓人工智慧機器人上戰場是好事,認為如此一來可以拯救生命。

而劍橋大學存在風險中心執行主任尚恩(Seán Ó hÉigeartaigh)博士則說,自動武器是否應該歸為和化武同類還有討論空間。

「聽到科學家們的意見很重要,」尚恩博士說許多人窮其一生研究人工智慧就是為了造福人類。


 

 

影片中,電腦科學家霍維茨談到人工智慧帶給人的種種便利與隱憂。


水能載舟也能覆舟
微軟首席研究員、電腦科學家霍維茨(Eric Horvitz)博士雖然也參與連署反人工智慧軍武,不過,他在 24號時上傳了一部影片,捍衛其他人工智慧的研究。

「你看看電腦為我們的社會和經濟做了多少事,像是在健康照護上的運用,這都非常不可思議。人工智慧將改變非常多事。」

「(人工智慧)帶來很多希望、很多可能的好處,但也帶來一些擔心。」

「我認為一路上有些非常有趣的問題需要解決,但是,我期望人工智慧的研究會因為我們的引導,帶來大量正面的好處。」
 

 

post title
網友

全球知名的宇宙學家霍金博士也加入聯署,反對發展人工智慧軍武。Photo credit: Lwp Kommunikáció


可能導致人類滅亡
除了電腦科學家霍維茨的大名出現在連署書上,全球知名宇宙學家霍金(Stephen Hawking)博士、太空探索科技公司(SpaceX)創辦人馬斯克(Elon Musk)、當代語言學大師喬姆斯基(Noam Chomsky)等社會學家、歷史學家、哲學家也來參與連署,目前連署人數已經超過上百人。

其實,去年 12月霍金博士在接受BBC的訪問時就提到,他擔心人工智慧可能導致人類滅亡。

霍金說:「人類受緩慢的生物進化所限,無法與人工智慧競爭,(人類)會被取代。」



編註:對原文完整報導有興趣的朋友,請參考
01 Killer robots: Tech experts warn against AI arms race
02 Scientists worry about arms race in artificial intelligence
03 Tech leaders warn of killer robot arms race

延伸閱讀:《日本推出可以讀懂情感的機器人
軍武不嫌少 台灣進口全球第五
人類登月46周年 科學家展開最強監聽外太空計畫