遏制网络欺凌的努力不会阻止更广泛的科技反弹

“我们致力于引领行业打击网络欺凌行为,我们正在重新考虑Instagram的整体体验以实现这一承诺,”Instagram主管Adam Mosseri在本周的一篇博文中称道。

技术公司面临越来越大的压力,要求阻止在线滥用行为,这些新工具和程序源源不断,旨在让他们的平台感觉不像污水池,而且更加“用户友好”。

英国三所大学4月份发布的一份报告发现,25岁以下遭受网络欺凌的人自杀或自杀的可能性是其两倍多。“自残,自杀行为和网络欺凌的儿童和青少年的人”回顾1996年至2017年共同参与156000人来自30多个国家的网络欺凌研究。

当然,在21年的时间里,情况发生了很大的变化。对于数百万年轻人来说,他们所知道的唯一世界是通过MySpace,Facebook,Instagram,Snapchat,WhatsApp或其他社交媒体平台与家人和朋友交流的世界。任何试图禁止他们的后代使用此类服务​​的父母从一开始就面临着一场艰苦的战斗。

因此,打击在线滥用的任何真正希望似乎都在于平台本身。周一,Instagram(现在声称全球用户超过10亿)宣布了最新一系列旨在挫败在线恶霸的措施。这些新功能中的第一个是使用人工智能(AI)来检测语言和“鼓励积极的互动”的工具。实际上,潜在的滥用者会收到警告,询问他们是否要重新考虑发布消息,如如此截图所示。

在某些方面,这个功能有点像Clippy的“看起来你正在写一封信”来自90年代微软Word的指导,为充满虐待的Instagram时代重新定位。但Instagram坚持认为,在早期的测试中,这条消息导致“有些人”收回他们的评论。

“这种干预使人们有机会反思和撤消他们的评论,并阻止收件人收到有害评论通知,”莫塞里说。“从这个功能的早期测试中,我们发现它鼓励一些人撤消他们的评论,并在他们有机会反思时分享一些不那么有害的东西。”

这个特别的功能还有去年宣布的Messenger Kids Pledge Facebook的残余,这基本上是一套“指导原则”,“鼓励负责任地使用Facebook”以儿童为中心的Messenger应用程序。

尽管这些举措可能具有良好的意义,但它们对于遏制真正的网络欺凌和滥用并没有太大作用,而这正是Instagram即将推出的影子禁令功能 - 它称之为“限制” - 发挥作用。

年轻人在处理在线滥用方面面临的一个问题是,他们可能会与犯罪者互动,成为现实生活中更广泛的社会同伴群体的一部分 - 因此主动阻止,取消或报告欺凌行为可能会对他们产生影响。没有人想被排斥或被视为“小飞贼”。为了解决这个问题,Instagram将推出一个名为Restrict的新功能,该功能在激活时会使个人对其目标帖子的评论仅对收件人可见 - 尽管目标可以选择批准具体意见。

此外,受限制的个人将无法看到他们的目标何时在Instagram上“活跃”,或者他们是否已阅读直接消息。

这可能证明是一个真正有用的功能,因为发布平均评论的人不会知道其他任何人都无法看到它们。“我们希望创建一种功能,让人们可以控制他们的Instagram体验,而无需通知可能针对他们的人,”Mosseri补充说。

反弹

虽然在线滥用是主要技术平台多年来一直试图争夺的东西,但许多人最近都在努力加大力度。今年早些时候,Alphabet的Jigsaw推出了一个Chrome扩展程序,可以让你过滤掉所有主要社交网络的滥用评论,无论这些攻击是针对你个人的。在新西兰恐怖袭击事件发生后,Facebook发布了一项针对现场直播员的新一击政策。

除了网络欺凌的努力,YouTube现在还提供了一个“儿童友好”版本的应用程序,虽然这并非没有自己的争议。而Facebook也试图通过Messenger Kids应用程序从小就吸引孩子们。与此同时,谷歌正在通过诸如Family Link这样的举措给予担忧的父母更多的控制权,这可以让他们远程控制孩子的设备,而苹果则一直在家庭控制iOS上。

但越来越多的人对网络欺凌和滥用行为的关注表明,社交媒体及其对社会的影响会受到更广泛的反对。关注的问题包括从YouTube上的阴谋视频到促进虚假奇迹疗法的Facebook帖子。

根据定义,社交网络旨在远程联系人,但一些研究表明,社交媒体使用与心理健康状况下降之间存在因果关系,包括孤独和抑郁。去年发表在社会和临床心理学杂志上的一项研究发现,将社交媒体使用限制在每天30分钟可能会导致“健康状况显着改善”。

在其他地方,一些研究表明,在Facebook帖子上收到的“喜欢”和一个人的自尊之间可能存在相关性,而另一些研究表明,对于青少年来说,在他们的照片上接收“喜欢”会激活与吃饭相同的大脑回路巧克力。

今年早些时候,Instagram开始尝试将“喜欢”计数保密,以鼓励追随者“专注于[共享]的照片和视频”而不是收到的喜欢数量。Twitter通过其实验性的Twttr应用程序涉及类似的升级。

频谱的各个方面

值得强调的是,技术上的强烈抵制来自政治和社会各方面,包括公民,政治家,政府和硅谷本身。

唐纳德特朗普的反科技宣言经常发生,就在本周,白宫正在举办社交媒体峰会,“承诺将成为保守派偏见受害者的狂欢节”,正如一位VentureBeat作家所说的那样。与此同时,世界各国政府都在谴责加密在帮助犯罪分子方面的作用。

从大型科技公司中,工人们正在推动他们的雇主在他们开发的技术方面采取更合乎道德的立场。许多来自硅谷及其他地区的技术杰出人士 - 帮助创建这些技术的人 -禁止他们的孩子使用技术和相关服务。众所周知史蒂夫乔布斯经营一家低技术家庭;蒂姆库克去年表示,他不希望他的侄子加入社交网络;比尔盖茨不允许他的孩子在他们还是青少年之前就拥有手机,他的妻子梅琳达说,即使在那个年龄,她也很遗憾。还有无数其他知名技术高管正在加入对智能手机和社交媒体的反击,无论多么具有讽刺意味。

无论是通过基于人工智能的反滥用工具还是家长控制机制,企图清理社交网络都值得称道。只要年轻人在这些平台上,公司应尽可能多地保护他们 - 这是一个给定的。但实际上这些努力实际上只不过是绷带,而且很难看出它们将如何应对反科技情绪的膨胀潮流。