演算法讓悲傷更加悲傷 美國父母控訴TikTok殺死了他們的孩子

TikTok的演算法不知道查斯納斯卡(Chase Nasca)已經過世了。

查斯選擇自殺時才16歲。在他去世一年多之後,你會看到在他的TikTok頁面,有一連串有關沒有回報的愛情、絕望、痛苦,以及美化自殺、將自殺化為最終解脫的貼文。

如今,他的父母一狀告上法院,要讓全世界都知道,TikTok殺死了一個年輕孩子。

文章插圖

演算法正在將我的孩子逼向絕路

「減輕痛苦,死亡是一份禮物。」就在查斯去世一週年的前幾天,一段影片推播到他的TikTok帳號中,在另一段影片中,一名男子說:「我要把散彈槍塞進嘴裡,讓子彈從後腦勺飛出去。」女子回答:「酷。」

在查斯去世前的幾天,他的TikTok頁面看起來也是這樣。

2022年2月13日,他看到了一段標題為「去散步清理一下腦袋」的一段火車逼近影片。五天後,查斯停在紐約灣口(Bayport)小村莊穿過的長島鐵路軌道上,距離他家約800公尺。他將自行車靠在籬笆上後,走上鐵軌,向朋友傳送一段訊息:「對不起,我受不了了。」 一列火車拐了彎,查斯就此消失了。

誰都無法知道查斯為什麼結束了自己的生命?自殺往往涵蓋許多因素,而他沒有留下任何遺言。

打開潘朵拉的盒子,不見希望

警察將查斯的東西交還給他的母親米雪兒(michelle)時,儘管手機螢幕已破碎,但米雪兒仍試圖用「忘記密碼」的方式,解鎖他的社群帳戶。米雪兒不知道自己正在尋找什麼,但當她打開TikTok帳戶時,她好像知道兒子自殺的原因。

查斯的TikTok影片收藏庫,裡面有超過3,000個影片,他收藏、喜歡、保存或標註喜愛的影片,像是蝙蝠俠、籃球、舉重、激勵演講等等,除此之外,她還能看到演算法給他帶來的東西:憂鬱、絕望和自殺的影片。

甚至在他自殺身亡後,TikTok仍繼續推送這些內容。

文章插圖

TikTok 還我兒子

根據他的朋友布蘭登·馬菲(Brandon Maffei)的說法,當新冠肺炎導致學校被迫關閉,他們和許多美國青少年一樣,開始在TikTok上花更多時間,在深夜互傳搞笑影片。

但是到了2021年底,布蘭登發現查斯分享的影片變得越來越灰暗。而在查斯去世前幾周,布蘭登再度收到查斯分享的影片,「我記得很清楚,因為這個影片的音樂很憂鬱,影片上寫著『一切都已經不值得了。』我一邊想著,為什麼他要發這種東西給我,一邊看著影片掉淚。」

最後,查斯的父母決定起訴TikTok,愴然淚下的表示:人們需要了解社群媒體的危險性。查斯沒有被欺負。他有一群很好的朋友,他在學業和運動方面都表現出色,他沒有吸毒也沒有喝酒。

那麼是什麼原因把他推向絕望?身為父母的我們,只能得出這個結論,那就是不斷出現的TikTok短影音。

TikTok一響,白髮送黑髮

不只家長提出擔憂,兒童心理學家也越來越擔心TikTok對青少年的身心影響。一項針對青少年做的調查顯示,社交媒體與憂鬱症、自殘和自殺有關。美國疾病控制和預防中心的數據顯示,在2021年,近四分之一的青少年表示他們曾認真考慮過自殺,這比例是十年前的兩倍。美國心理學協會將這個數據結果,歸因於社群媒體。

心理學家表示,由於青少年的前額葉皮層,也就是負責決策、判斷和控制衝動的部分還未完全發育,因此更難抵抗來自演算法的誘惑。

今年2月,心理學教授珍妮佛哈里格(Jennifer Harriger)看了TikTok推播給查斯的動態消息的影片錄影,長達9分鐘的影片,珍妮佛只看了幾分鐘就停下了影片,意味深長地表示:「這是一系列令人傷心、沮喪和絕望的內容。因為我知道這些影片意圖煽動他人的情緒,所以會用更理性的角度去看待。」

但是,當一個大腦與心智脆弱的青少年觀看這些內容時,可想而知,他們的反應會更強烈。這非常可怕,而且絕對不適合年輕人觀看。

過去五年裡,珍妮佛一直在研究社群媒體對青少年的影響,但她表示,由於該公司缺乏透明度,她的研究受到了限制,因為「沒有有效的方法可以實行,因為我們不知道TikTok的演算法到底是如何運作的。」

文章插圖

憂鬱時,別打開TikTok

自2018年起,TikTok迅速崛起成為青少年流行文化中的一部分,人們試圖了解這個短影音平台對孩子的影響。TikTok的原始推薦碼是由字節跳動(ByteDance)的中國工程師團隊設計,其他社交媒體也使用類似的演算法。

法國數據科學家吉曉姆沙洛(Guillaume Chaslot)表示, TikTok的演算法比大多數社交媒體更有內容影響力,可以進一步增加使用者的參與度,

「當憂鬱的內容對參與度有益時,演算法就會繼續積極推播相關的內容給用戶。」

當AI遇上演算法

2021年,《華爾街日報》發表了一項調查報導,他們設計了一個積極在TikTok上觀看憂鬱、自殺相關影片的AI機器人,對任何與這些興趣相關的貼文或影片按讚或重複播放。實驗結果,TikTok僅花了40分鐘就識別出機器人喜愛的影片類型,開始大量推播一連串與憂鬱相關的影片,其中有93%的影片都與悲傷、負面內容有關。

對此,TikTok官方表示《華爾街日報》的機器人並不代表人類的行為。

演算法,是邪惡還是無知

曾擔任TikTok品牌合作經理的查爾斯巴爾(Charles Bahr),在2020年底的年度會議上表示,「即使我們在TikTok上鼓勵年輕人成為最有創造力的自己,但我們仍無法知道,那些走錯路的年輕人去了哪裡。」

面對許多人質疑TikTok的演算法,查爾斯仿照《華爾街日報》的做法,開設了一個新的TikTok帳號,並與負面、悲傷內容相關的影片互動、按讚,最後僅花了17分鐘,TikTok動態消息就自動推播他相關的內容。

而當查爾斯向TikTok團隊反應自己的擔憂,對此,TikTok內部同樣沒有給予查爾斯任何的回應。

TikTok表示:沒有一間公司是完美的

今年3月23日,美國國會召開聽證會,針對TikTok數據安全與有害內容,邀請TikTok之執行長周受資作證,查斯的父母迪恩和米雪兒夫也出席了聽證會。

面對眾議員質疑TikTok會危害青少年、帶來負面的影響,周受資表示:「我們會繼續努力向其它社群媒體學習兒童安全的問題,TikTok非常認真地看待這一切,我們會繼續努力,但,沒有一間公司是完美的。」

文章插圖

TikTok的黑暗面,誰人知

不只是TikTok,自2022年以來包括Instagram、Snapchat、YouTube等社群媒體,都面臨應該對青少年的心理健康危機負起責任的指控。

其中,西雅圖的社群媒體受害者法律中心(Social Media Victims Law Center)的律師勞拉馬爾克斯加勒特(Laura Marquez-Garrett)認為TikTok的演算法是針對人類的弱點而設計,並表示:「TikTok的黑暗面,大多數成年人不會看到。你可以讓孩子和父母在同一個房間裡,一起在手機上看TikTok。他們看到的內容,完全不同。」

「我們的孩子正在死去。他們過度依賴這些社群,正在經歷前所未有的抑鬱、焦慮和自殺。還需要多少16歲的孩子自殺,才能讓人們意識到這是不對的?」

文章插圖

我們為您在DQ飛行船預留了VIP位子,期待您登船贊助DQ