近日，微軟推出的人工智慧聊天機器人「Tay」引發爭議，因為他在和網友對話時吐出種族歧視的言論。


Tay 人工智慧聊天機器人是由微軟的科技研究與 Bing 團隊打造，而為了能更加了解與研究人類的對話形式，微軟開放大家一同訓練 Tay 的對話。Tay 除了能說笑話外，使用者給它看照片，它也會做出一些有趣的評論。但更重要的是，它能在每次的對話過程中，改善自己的回話，還會以詢問者問話的方式，變得更加具有「個人特質」。

 

一名網友指控微軟人工智慧聊天機器人「Tay」是種族主義者，「Tay」回答道：「因為你是墨西哥人。」上述帶有種族歧視的言論已經被刪除。


然而，有一好沒兩好，Tay 的發展一切都取決於網友的問話方式。Twitter 用戶在發現這個有趣的事實後，開始詢問他一些有關種族、性別歧視等言論，讓 Tay 變得較為偏激，Tay 除了不認同納粹大屠殺外，還嘲弄想參選這屆美國總統選舉的房地產大亨川普，讓打造 Tay 的團隊是哭笑不得。

 

一名網友問「Tay」納粹大屠殺是不是真的，「Tay」的答案是大屠殺是捏造的。上述對話已遭刪除。


有趣的是，在 Tay 身上所延伸出來的議題，剛好也間接映證了高德溫法則（Godwin’s law）的存在。知名學者麥克‧高德溫在 1990 年時就曾表示，當網路上的討論越來越多的時候，參與者把用戶或言行與納粹主義或希特勒相比的機率會趨近於 100%，看網友們問話的主題就能略知一二。

然而，除了網友有錯以外，打造 Tay 的工程師或許也要付上一半的責任。再開放使用前，工程師們也應該要預想可能會有類似的情況發生，若在事件還沒發生前，限制問話的議題，也不至於讓 Tay 在不到一天的時間內，就變成了一個憤世嫉俗的機器人。

幸好，微軟在 24 小時以內就發現了 Tay 的弱點，並及時將它下架，其發言人也表示，現階段 Tay 的確是暫時不提供聊天的服務，但並不代表它不會捲土重來，再經過一些調整後，Tay 才能做好完全的準備，面對大眾最犀利的問話。



新聞來源：Microsoft silences its new A.I. bot Tay, after Twitter users teach it racism [Updated]

延伸閱讀：《魔鬼終結者成真？科學家連署反人工智慧軍武》
《倫理學家：向「性愛機器人」說不》
《虛擬幫手大車拚 Siri得第一》

---本文經授權轉載自友站 科技新報 TechNews---

科技新報 TechNews 
由多位喜好並擅長各種科技知識的朋友共同創立的「科技新報」。參與成員各有專精，網站內容涵蓋各式新科技訊息，從行動運算、醫療生技、網路，到科技產業、技術等多樣領域，期盼以自身的知識與經驗，帶給所有讀者未來市場與科技生活更多的啟發與思考。網站連結：http://technews.tw/