Facebook、谷歌和推特三巨头如何围剿ISIS

上周五，Facebook称它撤掉了一个个人主页，原因是该公司相信这个主页属于圣贝纳迪诺枪击案凶手塔什芬•马利克。马利克及其丈夫的枪击行为造成14人丧生，美国联邦调查局已将此事列为“恐怖活动”，并且正在展开调查。

就在一天前，法国总理和欧盟委员会官员分别约谈了Facebook、谷歌和推特等公司，要求它们以更快的速度应对“网络上煽动恐怖主义和仇恨的言论”。

这些互联网公司表示，它们的政策很简单，那就是按照自己的服务条款来禁止用户发布某些内容。除此之外，要删除或封杀任何东西都需要法院下令。任何人都可以举报或标记出需要审核乃至删除的内容。

然而，实际情况要微妙得多，也复杂得多。据一些曾在这些公司任职的人士透露，Facebook、谷歌和推特都担心，如果自己公开和西方执法机构的真实合作情况，世界各国将会无休止地提出类似要求。

这些公司还担心消费者将其视为政府的工具。更糟糕的是，要是如实披露自己的内容筛选机制，懂行的武装分子就有可能更清楚怎样入侵它们的系统。

一位在Facebook和推特工作过的安全专家说：“如果掌握了把内容推送到新闻发布渠道中的窍门，垃圾邮件发布者或其他人就都可以利用这一点。”由于涉及敏感问题，这位专家要求不透露他的身份。

就网络宣传而言，最重要但又最不为人知的问题之一就是社交媒体通过在哪些范围内和政府合作。

Facebook、谷歌和推特都说，它们对来自政府的投诉和来自普通民众的投诉一视同仁，除非政府拿到了法院判决书。包括这三巨头在内，越来越多的公司开始定期公布透明度报告，作用就是总结政府就其网站内容提出的官方要求。

但三家公司的前雇员、活动家以及政府官员都指出，还有其他办法。

一条主要途径就是政府官员或者他们的盟友就威胁性言论以及煽动仇恨或赞扬暴力的言论进行投诉，称其违反了相关公司的服务条款，而不是违法。这样的内容会在几个小时甚至几分钟内被撤下，而且不需要法院裁决等繁杂手续。

一位协助社交媒体封了许多账号的活动家称：“联邦政府部门直接和推特联系并要求后者提供协助的情况很常见，这并不需要通过官方渠道。”

就圣贝纳迪诺枪击案来说，Facebook表示自己撤掉的是马利克用化名建立的个人主页，原因是该主页违反了网络社区规定，具体来说就是赞美或宣扬“恐怖主义行为”。Facebook发言人说该主页上有支持伊斯兰国的内容，但未做进一步说明。

一些有组织的活跃分子让社交网站移除某些内容的工作也一直进展的很顺利。

一位在推特上化名NageAnon的说法语的活动家透露，他帮YouTube删除了数千段视频，具体做法是把明显违反YouTube政策的视频链接发给大家，然后请其他志愿者进行举报。

他在发送给路透社的推特信息中表示：“举报的次数越多，YouTube就越会快速进行审核，并将其作为紧急事件处理。”

一位熟悉YouTube运作方式的人士指出，以浏览次数为基数，YouTube管理人员往往会迅速查看那些被举报次数较多的视频。

但依靠数字会带来其他一些问题。

Facebook前安全部门员工尼克•比洛戈尔斯基介绍说，Facebook曾因多位说俄语用户的投诉冻结了许多支持西乌克兰的账号，或者限制了这些账号的活动。投诉者说这些账号散布仇恨言论，这看起来像是一次有组织的行动。比洛戈尔斯基是乌克兰移民，他帮其中多个账号成功进行了申诉。他还说，这样的投诉已经趋于缓和。

活动家们称，越南政府官员发起的类似投诉，让政府批评人士发布的内容至少遭到了暂时封杀。

Facebook拒绝就这些事例发表评论。

曾在这些公司担任高管的人士指出，司法部门、政界人士以及部分活动家真正希望看到的是互联网公司第一时间就阻止被禁内容被分享。但这是个巨大的技术挑战，也会让政策发生重大变化。

一些儿童色情图片可以被封杀的原因是这些科技公司可以进入存储着此类已知图片的数据库。在版权音乐方面也有类似的机制。

但网上并不存在暴力行为视频数据库。同时，就同一段视频而言，如果由匿名武装分子上传，就可能违反了社交网络的服务条款，但如果是新闻报道的一部分，就可能是合法内容。

曾任白宫副总技术官的黄安娜指出，科技公司不会愿意建立一个伊斯兰圣战者视频数据库，即便更新速度足以保证该数据库的实际效用，原因是它们担心政府官员会要求它们用这个数据库来预先审核所有官方不喜欢的内容。

黄安娜曾在推特和谷歌担任法律顾问，她说：“科技公司有理由采取谨慎态度，因为它们是全球性企业。如果这些公司为了某个目的建立了这样的数据库，它们就有可能无法拒绝将其用于别处。建立了这种数据库后，那些人就会找上门来。”

这些公司已经正式调整了一些政策。推特发言人表示，该公司修订了自己的人身攻击政策，将其覆盖面从直接威胁扩展到了间接威胁，并大幅提高了处理人身攻击投诉的速度。

该发言人称：“我们的反应速度得到了全面提高，而且可以说，这也包括政府投诉。”

Facebook今年已表示，禁止发布任何赞扬恐怖分子的内容。

谷歌旗下的YouTube也扩展了自己鲜为人知的“信得过举报人”项目。该项目允许各类团体将大量视频打上“有问题”标记，以便YouTube立即采取行动。这些团体形形色色，可以是英国的反恐警察小组，也可以是国际犹太人权组织Simon Wiesenthal Center。

谷歌女发言人拒绝透露此类举报人的数量。但她说，其中大多数都是个人，选择标准是以往发现违规内容的准确度。她还透露，美国政府机构并没有参与该项目，尽管过去一年中也有一些美国非营利组织加入了进来。

Simon Wiesenthal Center数字恐怖主义和仇恨项目负责人亚伯拉罕•库珀教士说：“这里面没什么魔法。我们投入人力物力，然后得到想要的答案。”（财富中文网）

译者：Charlie

校对：詹妮