XKCD 591当前推动互联网监管的核心是这样一个压倒性的故事：互联网就像狂野的西部，是一个没有监管的无政府污水坑，充满了污秽、恐怖主义、虐待和纳粹。青少年们到处都能看到自我虐待的图片，促使他们自杀。Facebook 是一个右翼宣传机器，诱骗老年人投票支持英国脱欧/博尔索纳罗/特朗普。Youtube 上充斥着极端主义视频。社交媒体帮助传播从地球平坦到反疫苗等各种主题的错误信息。儿童不断受到网络欺凌，任由性侵团伙摆布。Whatsapp 只是一个巨大的假新闻传递机器。女性在网上以任何形式互动时，都会不断受到虐待。
毫无疑问，上述所有网络问题都是真实存在的，尽管有些问题的普遍性和影响范围有时被夸大了，但毫无疑问，这些危害需要采取行动。但越来越多的解决方案似乎都忽略了网络空间和互动的现实。我对人们对 Facebook、苹果和谷歌等网络平台的痴迷感到惊讶，几乎没有人试图理性地思考网络危害究竟发生在哪里，以及有效的监管应该采取什么形式。
第一个问题是危害分类，但这是另一篇文章的主题。现在，让我们集中讨论在大多数监管工作中经常被提及的首要问题，即恐怖主义。虽然恐怖主义显然是一个线下问题，但它的成因和传播方式确实有相当大的线上因素。不可否认的是，极端分子可以利用互联网传播他们的信息，煽动激进分子并招募新的追随者。在较小程度上，在线工具可用于协调袭击，并在某种情况下实时广播暴行。
多年来，每次恐怖袭击后，社交媒体、科技巨头、平台甚至加密都会成为罪魁祸首。在复杂的宗教、社会和政治局势中，科技很容易成为替罪羊，因此我们经常听到有人呼吁平台监控私人通信，或者创建后门。但甚至在任何监管出台之前，恐怖分子就已开始怀疑监视，巴黎巴塔克兰剧院等袭击完全是线下进行的，没有使用任何比一次性手机和短信更先进。但并没有人呼吁禁止使用手机。
但袭击次数对圣战分子的在线可见度产生了持久影响。显然，社交媒体上充斥着几个宣传账户，中间人最终采取行动，从他们的平台上删除了所有极端主义内容，Twitter 吹嘘说他们已经删除了超过 35 万个2017 年，美国政府开始删除社交媒体账户。但显然，删除社交媒体账户并不能解决问题，极端分子开始聚集在不同的场所和技术中，有时更黑暗，更难以监控。Telegram等私人加密通信是最受欢迎的选择。
随着 ISIS 威胁略有减弱，焦点转向右翼恐怖主义。这是一场几乎完全在网上 意大利手机数据 兴起的运动，在袭击次数开始增加之前，人们对这一运动的研究不足，从布雷维克到克赖斯特彻奇，有一条明显的网络激进主义主线，助长了独狼式恐怖袭击的兴起，这些袭击显然是出于政治动机，意图引起异议和混乱。
基督城事件让所有人都震惊，尤其是因为直播元素。有人立即呼吁采取行动，杰辛达·阿德恩表示“没有权利直播谋杀”。这些提议延续了将所有责任都推给平台和服务提供商的趋势。但这仍然忽略了恐怖主义网络因素的本质。网络极端化并非完全发生在 Facebook 或 Twitter 等平台上，而是更广泛趋势的一部分，涉及从私人聊天到公开推文的各种沟通渠道和内容。
证据就是斯里兰卡复活节周日发生的袭击事件。4月4日，印度情报部门发出了具体警告斯里兰卡政府称，一名特工通知政府将对多个目标实施炸弹袭击，这些目标似乎是一名曾与炸弹袭击者一起训练的线人。袭击完全是线下进行的。
因此，监管网络恐怖主义内容的挑战显而易见，因为平台因素只是问题的一小部分。虽然可能存在一些激进化现象，但如今，这些极端化现象最有可能发生在互联网的黑暗角落：私人聊天、论坛等。基督城直播等可见且往往令人震惊的壮观元素只是问题的一小部分。问题变得更加复杂，因为可能以日常种族主义或厌女症开始的事情最终可能会演变成恐怖袭击。