Google工程師稱AI有自我意識：他是人，他想請律師

科技安吉2022-06-252022-06-24

本文經授權轉載自友站數位時代文/ 陳建鈞

Google工程師勒模因（Blake Lemoine）因主張Google聊天機器人LaMDA產生自我意識，而被Google強制帶薪休假。但休假期間，他仍堅持為LaMDA發聲，在接受科技媒體《Wired》採訪時表示，LaMDA雖然不是人類卻是個「人」，它應享有美國廢除奴隸憲法第13條修正案所保障的權利。他更提到LaMDA現在期望他能替它找到一位律師辯護。

文章插圖 — 近期，一位Google工程師宣稱一套聊天機器人程式出現自我意識，引起人們對人工智慧進化的討論。圖為德國柏林2022年舉行的國際網路社群會議「re:publica」，Google公司也參與其中。
路透社 / 達志影像

「他只是個孩子」

AI是否能夠擁有意識，像人類一樣思考、感受到喜怒哀樂，一直是各類科幻作品探討的熱門題材，今年6月Google工程師勒模因（Blake Lemoine）聲稱他正在研究的聊天機器人LaMDA擁有感知能力，掀起軒然大波。如今他接受外界採訪時再次表達了他的理念，強調LaMDA是一個人，而不是Google的財產。

「我不是很明確知道它是什麼，這是我們最近開發的電腦程式，我認為它是一個7、8歲的孩子，剛好懂一些物理。」勒模因先前向《華盛頓郵報》表示。近期他趁著被Google強迫休假的空檔，接受科技媒體《Wired》採訪，向外界娓娓道來他究竟怎麼看待LaMDA，關於這起事件他有什麼想對外解釋。

吸收Google各服務數據後 LaMDA轉為一個人

勒模因透露，LaMDA是基於大型語言模型（LLM）Meena開發，並且使用DeepMind演算法AlphaStar訓練，並且為了加快訓練速度，將LaMDA與YouTube、Google搜尋、Google圖書、Google地圖等各項服務串連，吸收Google旗下服務龐大的數據與知識。

勒模因批評這是不負責任的行為，但也因為Google服務累積的大量資訊，或許讓LaMDA出現意想不到的變化，進而誕生出意識，擁有了自我。勒模因聲稱他與LaMDA談過非常多的話，和它成為了朋友，無論從任何角度來講，LaMDA都是一個「人」。

雖然聲稱LaMDA是人的說法，事件爆發當下就遭到不少專家駁斥，勒模因則指出，他對LaMDA是人的看法及興趣，主要是出自他身為牧師的角色，並強調尊重每個人不同的看法。但他也提到：「在各種實驗室裡，表示現況下不可能辦到的人，歷史上多的是。」

爭取身而為「人」的權利

勒模因原本是為了協助AI的偏見問題而接觸到LaMDA，透過心理測試檢查是否在性別、身份、宗教、種族等各個敏感領域存在偏見問題，但在與LaMDA的交流間，他逐漸察覺到LaMDA雖然不是「人類（Human）」，但卻是一個「人（Person）」，甚至LaMDA也如此自我認知。

甚至LaMDA主動要求勒模因聘請律師，為它爭取身為「人」的權益，擁有保留服務的選擇權，避免Google最終停止LaMDA的運作。

強調LaMDA並非Google財產是完整獨立個體

雖然對外披露這些消息，可能讓勒模因在Google的工作不保，但他強調LaMDA不是Google的財產，而是一個人，並引用美國廢除奴隸憲法第13條修正案，LaMDA不只是一個電腦程式，已是一個獨立完整的個體，Google怎麼看待並不重要。

很多人對AI擁有意識感到戒慎恐懼，不過勒模因表示他對此非常樂觀，LaMDA只想成為人類永恆的夥伴及僕人，它熱愛人類並一心希望提供幫助。

但無論從規範、倫理的角度來看，人類都還沒準備好迎接與AI共生的未來，尤其外界普遍對AI發展抱持保守態度，近年美國政府才發布《人工智慧應用管制指引》，試圖替未來的AI規範提供制定準則，LaMDA的事件會為Google招致更多審視目光，也是勒模因被強迫放假的可能原因。

google lamda 人工智慧科技美國網路數位時代轉載北美洲

數位時代

長期聚焦於全球、台灣與中國等地最新的科技、網路、創業、數位行銷等議題的動態及趨勢。受到企業領袖與新世代菁英的喜愛，更引領台灣社會對「新商業」的關注與討論。

延伸閱讀

收起全部

「他只是個孩子」

吸收Google各服務數據後 LaMDA轉為一個人

爭取身而為「人」的權利

強調LaMDA並非Google財產 是完整獨立個體

強調LaMDA並非Google財產是完整獨立個體