加州大学洛杉矶分校的助理教授萨拉·T·罗伯茨说，解决这些问题的困难之一是，当我们谈论主流商业平台与互联网上一些更为深奥，令人不安的角落时，它有点“关于苹果和橘子”。在这种情况下，两者都有牵连。这个人在许多不同类型的网站上都有存在。处理仇恨言论，煽动暴力，恐怖主义材料的方法和方向在这些地方有所不同。“

即便如此，罗伯茨也对包括YouTube，Twitter和Facebook在内的主流公司持批评态度，她说“直到最近才真正把这些问题铭记于心。” 如果我们想要考虑一下隐喻，它就会在马匹本质上逃脱之后试图关闭谷仓门。“

更重要的是，“定位，隔离和删除此类内容的问题是一个持续存在的问题，因此，即使我们规定可以，也很容易知道什么是仇恨言论，我们可以找到它 - 我认为我们不能假设 - 然后你有机制去做。这往往属于支付率很低，地位低的人，他们称内容主持人进行删除。“

越过界限仇恨言论

决定在这些平台上的内容构成跨越界限的言论和不能构成重大挑战的言论，因为它通常比煽动暴力的彻底仇恨言论更加微妙。

“这些公司已尽其所能努力，不能成为内容仲裁者。然而在2019年，他们发现自己正处于那种他们从未想过的实践中，“罗伯茨说。

此外，在规模小得多的情况下，当一个人直播，比如警察停止导致枪击，不是为了美化事件，而是提供问责制和视觉证据时，可能会有平衡行为。 

科技公司也在部署人工智能和机器学习来解决问题。 

例如，在2018年第四季度，YouTube上删除的视频中有70％首先被智能检测机系统标记，其中许多视图的观看次数不到10次。

但加州大学伯克利分校数字取证教授，CEP顾问Hany Farid认为，这样的系统还有很长的路要走。

“尽管（马克）扎克伯格承诺人工智能将拯救我们，但这些系统还不足以应对每天上传的大量内容，”他说。

为了说明这一点，Facebook的首席技术官最近吹嘘他们的人工智能系统是多么复杂，谈论其区分西兰花和大麻图像的能力。这项相当普通的任务的总体准确率约为90％。“

Farid补充说，现实是“Facebook和其他人已经发展到他们目前的巨大规模，而没有设置防护轨道以应对可预测的伤害。现在他们有一个难以忍受的难以回避的问题并试图改造系统到处理一系列令人不安的内容，包括儿童性虐待，恐怖主义，仇恨言论，非法和致命毒品的销售，错误信息等等。“

虽然每个人都同意技术无法预测未来，从而无法预测暴力行为，但保障措施可能会比新西兰枪击案后的情况更容易更好，更快地提取“现场”内容。

尽管Twitter早先承诺取消视频，但我仍然看到剪辑，包括一个经过验证的帐户与694K粉丝共享的剪辑。我不是在这里分享它，但它已经持续了两个小时。- Ryan Mac（@ RMac18），2019年3月15日

“BuzzFeed News”科技记者Ryan Mac发推文说，“尽管Twitter早先承诺取消视频，但我仍然看到片段，包括一个经过验证的帐户与694K粉丝分享的片段。我不是在这里分享它，但它已经持续了两个小时。“

Syllcuse的SI Newhouse公共传播学院的通信助理教授Jennifer M. Grygiel也在拍摄后很好地访问剪辑。“在现场直播的情况下，我们需要延迟年龄在13-18岁的平台上的青少年，这样孩子就不会成为Facebook内容主持人进行大屠杀。”像电视网在播放现场节目时那样做。

“公司不会'非常悲伤'，”Grygiel发推文说。“解决你的问题。”

当然，网络空间的偷窥元素意味着有些人甚至会寻找最令人不安的镜头。拍摄结束后，一个名为LiveLink.com的类似YouTube的视频分享网站正在线上发布。该网站将自己描述为“尽可能免费”，同时禁止某些类型的视频，包括显示色情，非法活动或“我们认为是图形暴力或图形内容的美化”的内容。

截至早上，LiveLeak网站的某些部分出现了问题，包括搜索视频的能力。更多资讯，关注财经365股票频道！