臉書「發展出自己語言的人工智慧」恐怖故事 真的是這麼回事嗎?

by:泥仔
18624

這陣子,Facebook設計的機器人發展出自己的語言,在媒體上造成一片「人工智慧將逆襲」的恐慌,「在人工智慧發展出自己的詭異語言後,Facebook工程師決定把它關起來」、「我們是不是創造了科學怪人?」等文章甚囂塵上,然而,我們真的該開始倒數人類文明終結、人工智慧統治全世界的日子嗎?

post title

最近關於「Facebook的人工智慧創造出自己語言」這件事在媒體引發廣大迴響。

Photo: Kai Schreiber

一切始於Facebook談判實驗

這一切必須回到今年 6月,Facebook人工智慧研究實驗室(FAIR)所發表的文章開始講起。

FAIR為了讓聊天機器人學會談判技巧,同時理解語言在談判過程中扮演著什麼樣的角色,讓兩台機器人鮑伯(Bob)和愛麗絲(Alice)各自擁有相同數量的 3種物品(書、帽子、球),但每種物品對兩個機器人的價值都不同,在不能說出價值的情況下,機器人必須在十輪對話內透過討價還價的方式,來達到自己可得到的最高價值。

從一般的英文發展到難以參透的語言

一開始機器人確實是使用一般的英文來對話,像是說出「給我一顆球,然後我會給你帽子」等,但在不久後,它們就發展出了人類無法理解的語言,其中一個例子是這樣的:

鮑伯:我可以我我任何其他(I can i i everything else)

愛麗絲:球有零給我給我給我給我給我給我給我給我給(balls have zero to me to me to me to me to me to me to me to me to)

鮑伯:你我任何其他(you i everything else)

愛麗絲:球有球給我給我給我給我給我給我給我給我(balls have a ball to me to me to me to me to me to me to me to me)

post title

一名男子正在測試波士頓神經科學公司Neurable研發的裝置,這樣的裝置可以讓使用者用自己的意念打造出虛擬實境(virtual reality)。研究人員認為,談判機器人在做的事情其實就跟人類一樣。

路透社

只是更有效率地在執行任務

乍看之下,這就像機器人創造了用來迴避人類的語言,但事實上,它們只是重新組織了英文,藉此來更有效率地來執行它們被交辦的任務:談判。

用人類的語言溝通沒好處

FAIR的研究人員巴特瑞(Dhruv Batra)指出,當研究人員沒有在談判條件裡加入鼓勵機器人使用人類能理解的語言來溝通時,機器人自然會選擇更有效的溝通方式。

人類也會創造縮寫字

「(在溝通時,)行動主體會逐漸飄離可以理解的語言,並發明他們自己可以理解的暗語,」巴特瑞說:「就像我說『這個』五次,你就會詮釋成我要五份這個東西的複製品。(機器人創造語言)跟人類創造縮寫字來溝通並沒有不同。」

post title

今年 5月,5歲的哈理森(Harrison)正在跟孩童大小的機器人互動。FAIR最終把談判機器人關起來,其實和害怕人工智慧發展並沒有關係。

路透社

Google翻譯也有自己的語言

其實人工智慧透過重新組織語言,來更有效率地執行工作並非新聞了,去年 11月,Google就在部落格指出,Google翻譯會使用人類無法理解的「中介語言」,來翻譯過去沒看過的文章、或是提供更順暢的翻譯。

今年稍早,非營利研究機構OpenAI也表示,他們正在研究會發展出自己語言的AI,藉此提高人工智慧處理資訊、解決問題的效率。

只是跟目的不符合才關起來

至於「Facebook工程師決定把談判機器人關起來」的說法呢?FAIR的研究人員路易斯(Mike Lewis)表示,這是因為他們的興趣在「機器人如何跟人溝通,而不是怎麼有效率地跟另一個機器人對話」,跟「害怕人工智慧威脅到人類」並沒有關係。

post title

圖右為SpaceX執行長馬斯克。BBC相信這個話題會再次浮上檯面,和馬斯克、祖克伯之間的爭論脫離不了關係。

Photo: Dow Jones Events

其實今年6月就討論過了

其實FAIR的測試結果在今年 6月公布時,就已經引發一陣討論。BBC指出,這件事會再次受到注目,和今年 7月,SpaceX執行長馬斯克(Elon Musk)與Facebook執行長祖克伯(Mark Zuckerberg)針對人工智慧議題隔空交火脫不了關係。

SpaceX執行長 vs. Facebook執行長

當時馬斯克在一場與政府的會議上表示,他相信人工智慧對「既存的人類文明具有根深蒂固的風險」,因此建議政府要立法進行相關限制。

不過在一場與粉絲的直播問答中,祖克伯認為人工智慧發展可以為人類帶來更好的生活,他說:「在人工智慧這件事情上,我非常的樂觀。而且我無法理解那些試圖要創造一幅末日景象的反對者......某種程度上,我認為這很不負責任。」

對此,馬斯克僅在twitter簡短地回應:「我已經和馬克談過這件事了。他對這個領域的瞭解是狹隘的。」

post title

關於「人工智慧征服人類」的討論從來不絕於耳,也許這也能解釋為什麼我們會對FAIR的實驗感到擔心。

Photo: Comfreak

大家都會擔心人工智慧發展太快

不過關於人工智慧的擔憂是一直都存在的討論。英國天文物理學大師霍金(Stephen Hawking)就不只一次談到人工智慧可能比人類進化更快,甚至無法掌控,微軟創辦人比爾蓋茲(Bill Gates)也曾傳達出類似的憂慮。在商業電影上,人工智慧如何逆襲人類也是再常見不過的劇情。

也許不用太擔心?

但根據現在的情況,BBC的科技記者巴拉努克(Chris Baraniuk)認為,人工智慧是一個很廣泛、有待持續發展的領域。科技網站Gizmodo則認為,如果是以FAIR的談判機器人為例子,其實我們不需要感到太擔心。


延伸閱讀:《「心理上的恐怖谷」 有感情的AI讓人不舒服
虛擬實境中的性騷擾算數嗎?
性愛機器人的黑暗面 滿足性還是犯罪欲?

參考資料:
01 Killer robots? Musk and Zuckerberg escalate row over dangers of AI
02 No, Facebook Did Not Panic and Shut Down an AI Program That Was Getting Dangerously Smart
03 This is how Facebook's shut-down AI robots developed their own language – and why it's more common than you think
04 The 'creepy Facebook AI' story that captivated the media