您当前的位置:首页 > 外国名著 > 解密 Instagram

加强内容审查

加强内容审查

斯特罗姆和克里格对自己的局限性逐渐有了更深入的认识,或者说他们只是害怕毁掉自己已经拥有的东西。因此,他们不会为名人或品牌付费,不会让自己的产品变得过于复杂,也不会参与投资者的闹剧。他们会与科技巨头友好相处,会通过InstaMeet来建立社区,会努力让Instagram不辜负佐曼的期望,成为网络上的一片净土。

可问题在于,虽然Instagram在构建社区的时候可以努力地去启发感染用户,但Instagram无法真正控制他们。和Twitter一样,人们在Instagram上也无须使用真名。有些人对日落和拿铁就是不感兴趣,他们更喜欢在评论里骚扰别人,或者上传一些令斯特罗姆和克里格十分反感的内容。

每当他们看到行为不端的人时,他们都会进入系统,登录“管理”页面,在那个人的账户前勾上禁止登录的选项。他们把这一过程称为“修剪”,就好像Instagram是一株有着几片黄叶的美丽植物。

除了评论里的骚扰之外,也会有人上传带有自杀倾向的图片,或者传播儿童裸照和虐待动物的照片,抑或是发布#thinspiration(减肥动力)的内容来美化厌食症。斯特罗姆和克里格并不想让上述内容出现在Instagram上,但他们也深知,随着Instagram的规模越来越大,他们是没办法人工审查每一条内容的。仅仅9个月内Instagram上就发布了1.5亿张图片,平均每秒有15张图片上传。因此,他们一起想到了一个自动探测不良内容并防止其传播的方法,以保护Instagram刚刚建立起来的品牌形象。

“不能那样做!”佐曼说道,“如果我们开始主动审查内容,我们将承担全部法律责任。如果被人发现了,那我们以后就必须亲自审查每一条内容,而这是不可能做到的。”

佐曼是对的。根据《通讯管理法案》第230条,从法律上来说,“交互式计算机服务”的提供者不会被认为是信息的“发布者”,除非他们在内容发布之前进行了编辑或管控。这条发布于1996年的法律原本是国会为了管控互联网色情而发布的举措,但后来也成为互联网公司免受平台毁谤行为所带来的法律责任的保护伞。这项法律是Facebook、YouTube和亚马逊等服务能够发展壮大的主要原因,因为它们不必去审查每一个可能含有暴力内容的视频、每一个可能含有贬低内容的产品评论,或者每一个可能含有不真实信息的帖子。

佐曼之所以知道这些,是因为她在Formspring工作时和老板一起去见过德尔·哈维——Twitter负责处理这些法律问题的负责人。“德尔·哈维”是Twitter法律负责人在工作中使用的假名,这是她保护自己的方式,因为她负责处理的通常是一些暴躁易怒的网民。那次见面时提到的第230条法规让佐曼至今印象深刻。

不过,佐曼并不希望Instagram对那些帖子坐视不管。她在Formspring的工作经历让她深刻认识到如果放任不管,那些黑暗文化将会朝着怎样的方向发展,同时她也明白Instagram对于当时的她来说是一种怎么样的慰藉。目前,Instagram的用户规模还不算太大,尽管里德尔和佐曼可以轮班,亲自过目并处理那些带有恶意的帖子。但是,那些与日俱增的自杀帖子会渐渐超出他们的承受范围,并且情况还可能会变得更糟,佐曼解释说。在比伯进驻Instagram后,年轻且容易受影响的用户也随之增多。

佐曼的用户名是@jayzombie(杰僵尸),因为她被僵尸片深深吸引。虽然她可以承受那些血淋淋的伤口,但是她强大的内心让她无法对那些脆弱的灵魂放任不管。她写了一封群发的邮件,自动发送给每个她发现上传了自杀内容的人,邮件里是所有使用Instagram的国家的心理健康咨询热线。佐曼也会把带有暴力威胁或其他不良内容的帖子报告给警方。正如在Formspring工作时一样,她再一次成为警方和FBI的联络人。

但努力有时并不一定能产生理想的结果。有一次,佐曼向警方报告了一个年轻的苏格兰女孩发布的自杀威胁。然而当警方跟进并且想要得到这个用户更多的信息时,她却束手无策。Instagram并没有定位功能,而且根据苹果的开发条款,她也无法向警方提供苹果ID。还有一次,当她向国家失踪和受剥削儿童中心报告儿童色情内容后,她发现公司在服务器上保留这些照片,或者只是通过邮件发送这些图片都是违法的。中心的工作人员耐心地告诉克里格:Instagram需要设立一个独立的服务器,定时自动清理内容,这样Instagram才能在向当局报告的同时不触犯法律。克里格照做了。

大型的科技公司有足够的资源,他们的社区发展以及内容清理工作通常是分开进行的,特别是在发展初期,他们并不会在这方面花太多心思,因为法律规定他们不必这么做。然而在意识到放任其发展将招致恶劣的影响后,佐曼和里德尔不仅会思考如何去解决那些问题,而且认识到了主动推广理想内容的重要性。

Twitter和谷歌的管理者都认为,越少触及内容监管,从法律层面来讲就越安全。如果出现问题,用户可以自发进行举报和解决,公司的职责并不是指导用户如何使用产品。然而里德尔和佐曼对此却有不同的看法。

上一章 封面 书架 下一章