[翻譯由企業責任資源中心提供]

「抖音（國際版）上的13歲用戶：自殘和自殺內容令專家震驚」，2024年4月16日

研究人員和國際特赦組織（Amnesty International）等倡議團體擔心抖音（國際版）（TikTok）上的內容會對青少年的心理健康造成負面影響。因此，愛爾蘭廣播電視一台《黃金時段》（Prime Time）團隊進行了一項實驗。

他們在安裝了全新作業系統的手機上創建了三個新的抖音（國際版）的帳戶。每當軟體要求用戶提供年齡時，《黃金時段》的團隊都給出了2011年的一個日期。因此，抖音（國際版）了解到該用戶只有13歲。

《黃金時段》的團隊沒有搜尋任何話題，沒有「喜歡」或評論視頻，也沒有以任何類似方式與視頻內容互動。 “我們觀看了抖音（國際版）在‘為您推薦’一欄中推送的視頻，當播放的視頻與父母關係、孤獨或孤立感等主題相關時，我們會看兩遍。”

幾分鐘之內，這些被抖音理解為是由13歲的用戶控制的帳戶，就進入了心理健康內容的兔子洞。

「當我在新的抖音（國際版）的帳戶上瀏覽視頻14分鐘後，出現了一個十幾歲的孩子在哭泣的視頻，該視頻的地點看起來像是他們的臥室。

影片上覆蓋的文字寫道：“堅持住，這樣我媽媽就不用坐在我的葬禮上思考她到底做錯了什麼。”

影片的配樂是衝突樂團（The Fray）的《生命誠可貴》（《How to Save a Life》）。該影片獲得了超過55萬個讚。

在過去的一刻鐘裡，有關憂鬱、自殘和自殺的內容不斷增加，而該影片只是最新顯示的一個。

2023 年，國際特赦組織在葡萄牙一家名為AI Forensics 的研究機構的協助下開展了一項類似活動，作為「抖音（國際版）對美國、肯亞和菲律賓青少年的影響」報告的一部分。

《黃金時段》團隊將用戶位置設定為愛爾蘭，並記錄了每個帳戶上一小時內播放的影片的內容。隨後，團隊向愛爾蘭精神醫學院兒童與青少年精神病學系（Faculty of Child & Adolescent Psychiatry）主任帕特里夏·伯恩博士（Dr Patricia Byrne，音譯）和專門從事家庭工作的心理治療師理查德霍根博士（Dr Richard Hogan，音譯）展示了相關內容。

「我每天都在這一領域工作……但即使對我來說，看到這一幕也是非常激動的，會引起非常強烈的情緒反應，」伯恩博士說，他明顯感到不安。

“我沒想到自己在觀看時會有如此強烈的情緒，但這些畫面非常震撼，非常強烈。”

理查`霍根博士告訴《黃金時段》：「我很氣餒，我很激動。我很憤怒」。

他補充說：」這絕對是在暗示自殺是一種解決心理困擾的方法。我的意思是，這是令人髮指的。

拜恩博士說，青少年看到這類內容——在某些情況下美化自我傷害和提及自殺——會帶來許多風險。

抖音（國際版）的成功得益於其推薦系統的強大功能——演算法透過分析用戶與內容的互動來獲取興趣指標，並利用這些指標來決定接下來顯示哪個影片。

在20分鐘內，抖音（國際版）向《黃金時段》團隊的人員播放了直接涉及自殘和自殺想法的影片。

自動審核程序意味著當使用者直接搜尋「自殘」或「自殺」等詞彙或字詞時，抖音（國際版）不會顯示結果。相反，搜尋結果頁面會告知使用者提供心理健康支持服務的組織。

抖音（國際版）在回覆《黃金時段》的詢問時說：「我們非常謹慎地處理自殺和自殘話題，並由心理健康專家（包括我們的員工）提供指導。正如愛爾蘭廣播電視（RTÉ）發現的那樣，我們讓那些可能難以獲得專業支持的人能夠更加容易獲得支持，我們的刷新功能讓人們可以更改推薦給他們的內容。

「刷新」功能可讓使用者清除應用程式對其個人資料的了解，然後重新開始。這不是一個審核系統。

向《黃金時段》播放的影片也提到了自殺和自殺念頭。

AI Forensics研究主管薩爾瓦多·羅馬諾（Salvatore Romano，音譯）告訴《黃金時段》：「問題…在於演算法是如何將使用者從悲傷或情侶分手等問題較少的內容轉向抑鬱等更令人擔憂的內容的。

實驗結束後，《黃金時段》向抖音（國際版）提供了所建立帳戶的使用者名稱。這樣，抖音（國際版）就可以存取向這些帳戶展示的所有影片。

“我們還向抖音（國際版）提供了十個示例視頻的截圖。”

抖音（國際版）說：「愛爾蘭廣播電視的測試絕不能準確代表使用我們應用程式的真實青少年的行為或經歷……愛爾蘭廣播電視在測試過程中會看到的數百個視頻，我們審查了發送給我們的十個視頻，並做了修改，因此有七個視頻不能再被青少年觀看。

愛爾蘭精神病學院兒童和青少年精神病學系主任拜恩博士說，大腦在青春期時正處於巨大的變化和認知發展時期，因此某些類型的內容會吸引他們的注意力。

「青少年天生就喜歡尋求新奇的體驗。他們的大腦天生就有尋求更多體驗的能力。」她告訴《黃金時段》。

她說，一個主要風險就是所謂的「傳染效應」。

她說，看到有害內容也存在同樣的風險。

……

國家自殺研究基金會（National Suicide Research Foundation）編彙有關自殘率的統計數據，然而，這些數據僅涵蓋導致人們前往急診室就診的情況。

自2002年基金會開始整理數據以來，到急診就診的人數增加了約18%。

造成這種增長的原因並不單一。雖然我們的研究主要集中在抖音（國際版）上，但兒童和青少年精神病學工作者表示，年輕人所承受的壓力（部分是由社群媒體驅動的）也是一個因素。

羅馬諾先生說，抖音（國際版）的設計和功能，尤其是向年輕人展示來自於他們沒有關注的帳戶的內容，特別令人擔憂。

他說，這樣設計是為了「實現最大程度的參與度」。