臉書「發展出自己語言的人工智慧」恐怖故事 真的是這麼回事嗎？

一切始於Facebook談判實驗

這一切必須回到今年 6月，Facebook人工智慧研究實驗室(FAIR)所發表的文章開始講起。

FAIR為了讓聊天機器人學會談判技巧，同時理解語言在談判過程中扮演著什麼樣的角色，讓兩台機器人鮑伯(Bob)和愛麗絲(Alice)各自擁有相同數量的 3種物品(書、帽子、球)，但每種物品對兩個機器人的價值都不同，在不能說出價值的情況下，機器人必須在十輪對話內透過討價還價的方式，來達到自己可得到的最高價值。

從一般的英文發展到難以參透的語言

一開始機器人確實是使用一般的英文來對話，像是說出「給我一顆球，然後我會給你帽子」等，但在不久後，它們就發展出了人類無法理解的語言，其中一個例子是這樣的：

鮑伯：我可以我我任何其他(I can i i everything else)

愛麗絲：球有零給我給我給我給我給我給我給我給我給(balls have zero to me to me to me to me to me to me to me to me to)

鮑伯：你我任何其他(you i everything else)

愛麗絲：球有球給我給我給我給我給我給我給我給我(balls have a ball to me to me to me to me to me to me to me to me)

只是更有效率地在執行任務

乍看之下，這就像機器人創造了用來迴避人類的語言，但事實上，它們只是重新組織了英文，藉此來更有效率地來執行它們被交辦的任務：談判。

用人類的語言溝通沒好處

FAIR的研究人員巴特瑞(Dhruv Batra)指出，當研究人員沒有在談判條件裡加入鼓勵機器人使用人類能理解的語言來溝通時，機器人自然會選擇更有效的溝通方式。

人類也會創造縮寫字

「(在溝通時，)行動主體會逐漸飄離可以理解的語言，並發明他們自己可以理解的暗語，」巴特瑞說：「就像我說『這個』五次，你就會詮釋成我要五份這個東西的複製品。(機器人創造語言)跟人類創造縮寫字來溝通並沒有不同。」

Google翻譯也有自己的語言

其實人工智慧透過重新組織語言，來更有效率地執行工作並非新聞了，去年 11月，Google就在部落格指出，Google翻譯會使用人類無法理解的「中介語言」，來翻譯過去沒看過的文章、或是提供更順暢的翻譯。

今年稍早，非營利研究機構OpenAI也表示，他們正在研究會發展出自己語言的AI，藉此提高人工智慧處理資訊、解決問題的效率。

只是跟目的不符合才關起來

至於「Facebook工程師決定把談判機器人關起來」的說法呢？FAIR的研究人員路易斯(Mike Lewis)表示，這是因為他們的興趣在「機器人如何跟人溝通，而不是怎麼有效率地跟另一個機器人對話」，跟「害怕人工智慧威脅到人類」並沒有關係。

其實今年6月就討論過了

其實FAIR的測試結果在今年 6月公布時，就已經引發一陣討論。BBC指出，這件事會再次受到注目，和今年 7月，SpaceX執行長馬斯克(Elon Musk)與Facebook執行長祖克伯(Mark Zuckerberg)針對人工智慧議題隔空交火脫不了關係。

SpaceX執行長 vs. Facebook執行長

當時馬斯克在一場與政府的會議上表示，他相信人工智慧對「既存的人類文明具有根深蒂固的風險」，因此建議政府要立法進行相關限制。

不過在一場與粉絲的直播問答中，祖克伯認為人工智慧發展可以為人類帶來更好的生活，他說：「在人工智慧這件事情上，我非常的樂觀。而且我無法理解那些試圖要創造一幅末日景象的反對者......某種程度上，我認為這很不負責任。」

對此，馬斯克僅在twitter簡短地回應：「我已經和馬克談過這件事了。他對這個領域的瞭解是狹隘的。」

大家都會擔心人工智慧發展太快

不過關於人工智慧的擔憂是一直都存在的討論。英國天文物理學大師霍金(Stephen Hawking)就不只一次談到人工智慧可能比人類進化更快，甚至無法掌控，微軟創辦人比爾蓋茲(Bill Gates)也曾傳達出類似的憂慮。在商業電影上，人工智慧如何逆襲人類也是再常見不過的劇情。

也許不用太擔心？

但根據現在的情況，BBC的科技記者巴拉努克(Chris Baraniuk)認為，人工智慧是一個很廣泛、有待持續發展的領域。科技網站Gizmodo則認為，如果是以FAIR的談判機器人為例子，其實我們不需要感到太擔心。