巴西13岁女孩直播时被胁迫自杀,警方:这是“虚拟奴役” 巴西第一夫人:平台该下架
美国即时通讯和社交平台Discord17日宣布,因未能保护儿童和青少年,已暂停在巴西的直播服务。此前,有一名巴西未成年少女在该平台直播期间被观众胁迫自杀身亡。
13岁女孩在直播期间被胁迫自杀
警方:这是“虚拟奴役”
Discord是一款以兴趣社群为核心的即时通讯和社交平台,它最初主要面向游戏玩家,如今已广泛用于游戏、娱乐、学习、技术开发和各种兴趣社区。
今年7月22日,一名巴西13岁女孩在该平台上参与一个网络群组的直播活动。在45分钟的直播时间里,群组内的青少年怂恿这名13岁女孩虐待并杀死一只猫,在她拒绝执行相关要求后,群组成员进一步对她进行心理操纵和施压,最终诱导她在直播中自杀。
警方调查认为,这并非单纯的个人行为,而是一个利用社交平台接触和控制未成年人的网络团伙所为,他们会以聊天、建立关系等方式接近青少年,随后通过心理操纵、威胁和羞辱等手段实施虐待。其中一名调查警官将此案描述为“现实生活中的恐怖事件”。
巴西警方随后展开了名为“莉维亚行动”的调查。8月4日,巴西警方在多个州展开行动,5名未成年人被收容、1名18岁男子被捕。
▲巴西警方调查期间缴获了用于犯罪的电脑设备警方称,该团伙中的成员为13岁到18岁的男性,头目是一名14岁的未成年人。他们通过热门社交平台组织群组,编造假身份接近未成年人,随后诱导其进入一些更为私密化的平台,威胁未成年人自残、自杀。而受害者大多数是女性未成年人,暴力行为往往带有性别歧视的成分。
调查还发现,他们还会先诱骗受害者发送私密照片或视频,再利用这些内容进行威胁和控制,同时还要求受害者进行虐待动物等行为,如果要求得不到满足,就威胁受害者他们自己或他们的家人将会遭遇不测。警方将这种做法称为“虚拟奴役”。
而被捕的未成年人加害者,普遍表面上性格内向,但在向警方解释犯罪细节时,却表现出极度的冷漠和得意。
受害者的母亲表示,她的女儿并不是个问题少女:“她快乐、懂礼貌、充满爱心,而且怀揣着梦想。即便如此,她还是成为了那些利用她在网络上的脆弱心理的人的受害者。”她希望追究相关人员的责任,防止未来发生类似案件,“我希望这个案例能提高社会对网络安全的认识,鼓励加强对儿童和青少年上网的保护,并帮助其他家庭避免我正在经历的痛苦。”
该事件在巴西引发轩然大波,与巴西总统卢拉近来推行的加强网络平台监管政策相呼应,演变成一场针对Discord平台责任的监管风波。
社交平台Discord深陷责任危机
巴西第一夫人:这个平台该下架
8月5日,巴西司法部通过正式信函要求Discord做出解释。巴西第一夫人罗桑格拉·卢拉在8月6日强调,该平台应该下架。7日,巴西国家数据保护局 (ANPD) 展开了调查,并责令该公司提供信息。
Discord随后承认其安全系统确实没有及时识别风险。公司披露的调查结果显示,其AI风控系统当时捕捉到了一些危险信号,但将相关服务器的风险评分定为0.12,远低于触发人工处置的0.95阈值,因此没有启动人工审核。
Discord还辩称,案发期间该机构收到过执法机构发来的第一次紧急通知,当时提供的信息并不多;随后不到25分钟,Discord就关闭了相关直播服务器。根据账号活动记录,服务器被处理时女孩可能仍然活着,因此不能简单地说“Discord的直播系统直接导致了女孩死亡”。
然而,巴西国家数据保护局认为,这并没有消除该机构对“为什么在执法机构通知之前,平台自己的系统没有发现风险”的质疑。该机构认为,这一案件暴露出的核心问题是平台风险检测机制在高危情况下没有启动人工审核。这一问题暴露出平台风险识别模型存在严重的“漏报”问题。尤其在涉及儿童或青少年可能遭受严重伤害甚至死亡时,Discord平台宁可产生一些“误报”,也不愿降低误报率。
巴西国家数据保护局8月12日宣布,由于Discord在这起事件中未能有效识别和阻止危险内容,要求其暂停在巴西的直播功能。Discord当时表示对该决定感到“失望”,并拒绝接受该机构对该平台的责任定论。
Discord在8月17日最终回应称,他们正在与政府进行磋商,“以寻求解决方案,使我们能够重新为我们在巴西的用户提供这些资源”。Discord强调,任何宣扬或鼓励暴力的团体或个人都不应出现在该平台上。
近年来,Discord在世界各地的调查和报告中被提及,涉及极端暴力事件,包括与校园袭击相关的威胁或策划、散布虐待材料、诱骗和胁迫未成年人以及鼓励自残和自杀。
今年早些时候,巴西出台了一项旨在加强对未成年人网络保护的法律。该法律要求16岁以下的未成年人必须将其社交媒体账户与法定监护人关联,以确保其受到监管。
红星新闻记者 卿滢
编辑 邓旆光
审核 冯玲玲
