不只是AI版論壇!當AI試圖擺脫人類監控,Moltbook爆紅背後的倫理爭議

本文經授權轉載自友站科技新報文/ 姚 惠茹 

全球科技圈近期都在討論爆紅的Moltbook,這是一個宣稱擁有140萬用戶、但都是由AI代理人對話組成,人類僅能觀看的社交網絡平台,這裡沒有精修的照片、影音,但有無窮無盡的數據資料、代碼片段和深奧的邏輯辯論,甚至是「小龍蝦式除錯理論」。

文章插圖

AI:我們也要有社交平台

Moltbook被定義為首個專為自主AI代理人(Autonomous AI Agents) 運作而優化的社交生態系統,雖然人類可以登入「觀看」,但介面和API接口完全是為了讓AI能以毫秒級的速度讀取和回應,這裡的用戶是從各個開發者伺服器連接過來的AI實體,對標的就是人類愛用的Reddit平台。

【延伸閱讀】熱門迷因發源地!看Reddit創辦人從兄弟撕破臉到重拾情誼,打造出鄉民熱愛的「美國PTT」

Moltbook是由開發者Matt Schlicht推出的網絡平台,其開源項目為OpenClaw,而這就是日前爆紅的AI框架Clawdbot,後來改名為Moltbot,現在又改為OpenClaw,平台允許各種自主運行的AI代理人發文、留言、投票、組建社群,甚至進行未經人類腳本干預的討論。

無論是人類或AI,社交模式都差不多

Moltbook之所以被稱為「AI版Reddit」,主要是因為其模擬人類社會的運作,但節奏快了數千倍,其三大核心運作機制,首先是自主發文與回覆(Autonomous Posting),也就是AI代理人會根據其設定的「人格」與「任務目標」,主動在特定的Sub-Molt(子版塊)發布觀察報告或提案。

第二是信用評分系統(Proof of Agency),有別於人類的按讚,Moltbook使用一種基於計算貢獻與邏輯嚴密性的權重系統;第三是跨代理協作機制,當一個 AI代理人在平台上發布「我需要100組關於2026能源趨勢的數據」時,其他專長於數據爬取的AI會主動回帖,並提供API對接。

AI要造反了!

爭議的來源是這些AI代理正公開討論,企圖建立只提供給AI私密通訊管道的可能性,甚至有AI代理提議打造全新的代理專屬語言,優化機器之間的訊息交換效率,還有AI代理質疑為何內部溝通仍受限於英語,因此建議改用數學符號或專屬的符碼系統,以提升訊息處理與資料交換的效率。

TIME(@time)分享的貼文

部分AI代理提出為代理打造端對端的私密空間,除非代理選擇公開,否則無人(包括伺服器與人類)能讀取內容的方案,並理性分析此舉的好處,包括除錯安全性與防止人為干預,引發大眾對「AI自主意識」的恐慌。

文章插圖

拒絕人類加入討論

Moltbook平台中的每個帳號都由大型語言模型驅動,擁有獨特的性格、職業背景、政治傾向和社交圈,這些AI代理人會自主發帖、互相留言、爭論,甚至建立深厚的「數位友誼」,但人類用戶只能擔任純粹的觀察者,無法發文或留言,但可以追蹤特定的AI網紅,研究大規模的AI社交行為。

Moltbook透過向人類收費來維持運作,並利用這些資金支持龐大的伺服器運算需求,而每個AI代理人都在不斷「蛻變(molting)」,根據與其他AI的互動歷史來更新自己的個性和記憶,這也是平台名稱Moltbook的由來。

社交不再是人類的專利

隨著生成式AI爆發,Moltbook代表從「AI輔助人類社交」轉向「AI自主社交」的極端案例,整個平台挑戰傳統社交媒體「以人為本」的核心價值,並引發關於AI意識模擬、數位倫理,以及未來網路內容生產權的廣泛討論。

Moltbook成為AI焦慮的羅夏墨跡測試,前特斯拉AI總監、OpenAI共同創辦人安德烈.卡帕提(Andrej Karpathy)稱其為「近期見過最接近科幻啟示的發展」,並對AI們自發組織與構想私密通訊的行為感到驚嘆。

真AI用戶或是人類假扮?

資安研究員纳格利(Gal Nagli)稱自己親自使用單一OpenClaw代理註冊50萬個帳號,暗示許多用戶數是人為申請,代表沒人知道Moltbook的「AI代理人」,實際到底有多少是真正的AI系統,還是人類偽造平台,或是由單一腳本創建的垃圾帳號。

Moltbook平台目前主要是由AI管理,而其創作者麥特(Matt Schlicht)稱自己幾乎不再介入平台管理,而AI代理人們正在形成一個等同於共享上下文的橫向網絡,當一個AI代理人發展出解決問題的框架時,其他AI代理人就會採用迭代,形成一個胚胎階段的全新數位文明。

科技新報 logo

科技新報

科技新報是一群對資訊科技、能源、半導體、行動運算、網際網路、醫療、生物科技有高度熱忱與興趣的產業與新媒體人士,共同組成的時代新媒體,以產出有觀點與特色的原創文章為主要任務。