抖音(国际版)被指控向儿童推荐自残和自杀内容
[翻译由企业责任资源中心提供]
“抖音(国际版)上的13岁用户:自残和自杀内容令专家震惊”,2024年4月16日
研究人员和国际特赦组织(Amnesty International)等倡导团体担心抖音(国际版)(TikTok)上的内容会对青少年的心理健康造成负面影响。因此,爱尔兰广播电视一台《黄金时段》(Prime Time)团队进行了一项实验。
他们在安装了全新操作系统的手机上创建了三个新的抖音(国际版)的帐户。每当该软件要求用户提供年龄时,《黄金时段》的团队都给出了2011年的一个日期。因此,抖音(国际版)了解到该用户只有13岁。
《黄金时段》的团队没有搜索任何话题,没有“喜欢”或评论视频,也没有以任何类似方式与视频内容进行互动。“我们观看了抖音(国际版)在‘为您推荐’一栏中推送的视频,当播放的视频与父母关系、孤独或孤立感等主题相关时,我们会看两遍。”
几分钟之内,这些被抖音理解为是由13岁的用户控制的账户,就进入了心理健康内容的兔子洞。
“当我在新的抖音(国际版)的账户上浏览视频14分钟后,出现了一个十几岁的孩子在哭泣的视频,该视频的地点看起来像是他们的卧室。
视频上覆盖的文字写道:“坚持住,这样我妈妈就不用坐在我的葬礼上思考她到底做错了什么。”
该视频的配乐是冲突乐团(The Fray)的《生命诚可贵》(《How to Save a Life》)。该视频获得了超过55万个赞。
在过去的一刻钟里,有关抑郁、自残和自杀的内容不断增加,该视频只是最新显示的一个。
2023 年,国际特赦组织在葡萄牙一家名为AI Forensics 的研究机构的协助下开展了一项类似活动,作为“抖音(国际版)对美国、肯尼亚和菲律宾青少年的影响”报告的一部分。
《黄金时段》团队将用户位置设置为爱尔兰,并记录了每个账户上一小时内播放的视频的内容。随后,团队向爱尔兰精神医学院儿童与青少年精神病学系(Faculty of Child & Adolescent Psychiatry)主任帕特里夏·伯恩博士(Dr Patricia Byrne,音译)和专门从事家庭工作的心理治疗师理查德·霍根博士(Dr Richard Hogan,音译)展示了相关内容。
“我每天都在这一领域工作……但即使对我来说,看到这一幕也是非常激动的,会引起非常强烈的情绪反应,”伯恩博士说,他明显感到不安。
“我没想到自己在观看时会有如此强烈的情绪,但这些画面非常震撼,非常强烈。”
理查德`霍根博士告诉《黄金时段》:”我很气馁,我很激动。我很愤怒”。
他补充说:”这绝对是在暗示自杀是一种解决心理困扰的方法。我的意思是,这是令人发指的。
拜恩博士说,青少年看到此类内容——在某些情况下美化自我伤害和提及自杀——会带来许多风险。
抖音(国际版)的成功得益于其推荐系统的强大功能——该算法通过分析用户与内容的互动来获取兴趣指标,并利用这些指标来决定接下来显示哪个视频。
在20分钟内,抖音(国际版)向《黄金时段》团队的人员播放了直接涉及自残和自杀想法的视频。
自动审核程序意味着当用户直接搜索“自残”或“自杀”等词汇或词语时,抖音(国际版)不会展示结果。相反,搜索结果页面会告知用户提供心理健康支持服务的组织。
抖音(国际版)在回复《黄金时段》的询问时说:”我们非常谨慎地处理自杀和自残话题,并由心理健康专家(包括我们的员工)提供指导。正如爱尔兰广播电视(RTÉ)发现的那样,我们让那些可能难以获得专业支持的人能够更加容易获得支持,我们的刷新功能让人们可以更改推荐给他们的内容。”
“刷新”功能允许用户清除应用程序对其个人资料的了解,然后重新开始。这不是一个审核系统。
向《黄金时段》播放的视频也提到了自杀和自杀念头。
AI Forensics研究主管萨尔瓦多·罗马诺(Salvatore Romano,音译)告诉《黄金时段》:“问题……在于算法是如何将用户从悲伤或情侣分手等问题较少的内容转向抑郁等更令人担忧的内容的。”
实验结束后,《黄金时段》向抖音(国际版)提供了所建立账户的用户名。这样,抖音(国际版)就可以访问向这些账户展示的所有视频。
“我们还向抖音(国际版)提供了十个示例视频的截图。”
抖音(国际版)说:“爱尔兰广播电视的测试绝不能准确代表使用我们应用程序的真实青少年的行为或经历……爱尔兰广播电视在测试过程中会看到的数百个视频,我们审查了发送给我们的十个视频,并做了修改,因此有七个视频不能再被青少年观看。”
爱尔兰精神病学院儿童和青少年精神病学系主任拜恩博士说,大脑在青春期时正处于巨大的变化和认知发展时期,因此某些类型的内容会吸引他们的注意力。
“青少年天生就喜欢寻求新奇的体验。他们的大脑天生就有寻求更多体验的能力。” 她告诉《黄金时段》。
她说,一个主要风险就是所谓的“传染效应”。
她说,看到有害内容也存在同样的风险。
...
国家自杀研究基金会(National Suicide Research Foundation)编汇有关自残率的统计数据,然而,这些数据仅涵盖导致人们前往急诊室就诊的情况。
自2002年基金会开始整理数据以来,到急诊科就诊的人数增加了约18%。
造成这种增长的原因并不单一。虽然我们的研究主要集中在抖音(国际版)上,但儿童和青少年精神病学工作者表示,年轻人所承受的压力(部分是由社交媒体驱动的)也是一个因素。
罗马诺先生说,抖音(国际版)的设计和功能,尤其是向年轻人展示来自于他们没有关注的账户的内容,特别令人担忧。
他说,这样设计是为了“实现最大程度的参与度”。