人类充满了偏见和矛盾，计算机却没有感情。但是机器仅仅是一些构建在其内部的规则而已。
机器给每个评论打分，分数在0到1之间—以0.41和0.89为界限—这是 Instagram 的一种可信度评判机制，用来判断评论是具有攻击性的还是不合适。分数越高，说明评论越糟糕，超越某一界限值，评论则被删除。Instagram 调整了系统，使其误检率只有1%，这意味着1% 由机器删除的评论交由人类评判后，可能会得出不一样的结论。
有时，使用机器就像是一种解决问题的最纯粹的道路。人们充满了偏见和矛盾，计算机则没有感情。但是机器仅仅是一些构建在其内部的规则而已。今年早些时候，文本分析公司 Luminoso 的首席科学家，Rob Speer 基于文字嵌入构建了一种算法尝试理解推文文本的情绪。他将算法应用于餐厅的评论，奇怪地发现，墨西哥餐馆似乎做的很糟糕。这使他非常疑惑，对数据进行了深度的探究。人们喜欢墨西哥的食物，但是系统假定他们不喜欢。最终，他发现了问题所在：“原因就在于系统通过网络上的阅读来学习 『墨西哥』这个单词”，他写到。在互联网上，墨西哥这个单词经常与非法这个词汇有联系，对于算法来说，这意味着墨西哥是不好的东西。
当我告诉 Systrom 这个故事的时候，他很快回应到，“这太糟了”。然后他指出，他的评级不会基于这样的算法；他们会基于其人类评判人的判断。但是也许评判人会在某种情况下出现偏见呢？如果穿着 Tim Lincecum 球衣的那个家伙确实对一些针对高个子女性负面的事情敏感而对针对矮个子女性不敏感呢？如果他认为迷因很重要这个话题十分讨厌呢？或者允许出现呢？在那个房间所累积的偏见，随着在其 MacBooks 上的点击，将会造成过滤器的偏见，这将会对世界上7亿人产生影响。
该产品于去年六月首次推出，至今为止用户们的反馈似乎相当积极。事实上极少有人注意到，这个过滤器并不完美。它是有问题的，比如，在文化差异下，不同的词意味着不同的事情。它终止了所有使用 fag 这个单词的句子，即使它们很明显地与英国关于香烟的俚语有关。当“You need to check your BMI index”这句话来自于新的账号而不是一个经过验证的账号时，它终止了这句话。在分辨 Kanye West 的歌词时，它同样出现了问题。当经受测试时，“For my southside niggas that know me best / I feel like me and Taylor still might have sex / Why, I made that bitch famous”这段话的每一行都被屏蔽了。这些话并没有出格的地方，然而，Kanye 有更多自创的侮辱性句子比如“You left your fridge open / somebody just took a sandwich”。
Instagram 面临的一个巨大的风险在于过滤器可能会慢慢地改变平台的前景。当然，Instagram 大部分是图片，但是如果真正的争论或者有想法的批判开始出现的越来越少了呢？最好的想法可不总是积极而友好的。正如经常说的那样，Instagram 不能独立于手机而存在。Steve Jobs 同样也说过一些过激话，可能也会被过滤器所屏蔽。Systrom 想要创建的世界，可能不仅仅让人感到舒适，也可能是被净化过的世界。它也许会像是，迪士尼乐园。
当他去年六月发布产品时，Systrom 发布了一张由字母组成的心的形状的图片，并解释了他所做的事情。大部分反应是正面的，大家对此都纷纷表示支持。“这也太棒了啊啊啊!!!”、“太好了”、“感谢!”、“棒极了!”
但是一些批判性的评论并未被过滤器所过滤。人们有一次抱怨其非时间顺序的时间线。其他人仅仅认为整件事情很奇怪。但是一些读者，包括 @futurestrader，提出了中肯的忧虑：“我确实同意 IG 和 社会媒体已经沦为的恶意言论的污池，但是我希望我们不会因为一些不同意的评论和想法而沿着审查这条线越走越远”。
(James Mitchell，Instagram 的内容运营主任
管理一个内部评判者团队，该团队已经分析了超过两百万条评论)
五
在硅谷的检查线 — 不管它是什么 — 是扭曲的，或者至少是模糊不清的。政府的权利有宪法限制着来审查人们，但是私人的平台却没有。还有，自由言论的想法在硅谷一直以来都是核心问题。黑客道德准则，早期计算机编程人员信奉的宽松准则，为信息的自由流动明码标价。
2009年，Facebook 公开宣布其任务是“使世界更加开放，互相连接”。同一年，伊朗的反绿色革命被简单地成为 Twitter 革命。“我们想要使网络上的想法最大化，我们一直相信更多的发言就是更好的发言”，Twitter 初创团队的一员，Jason Goldman 告诉我。2012年，公司的一个领导层将平台称为“言论自由党派的言论自由的羽翼”。
现在那一段在 Twitter 的公司生活就像是天真的理想主义的时光：那些不明白性别歧视或者甚至是法西斯主义深浅的年轻人的作品，隐藏在人们的账号中。那时，号召言论自由的是那些想要打倒独裁政权的人们。现在它们来自于那些要求诉说种族歧视的事物的人们，并且不能称他们为种族歧视者。
然后，言论自由的观念在运营互联网的公司中被改变了。Facebook 在其消息递送(News Feed)出现错误后——某种意义上，言论自由·-也许帮助了 Donald Trump 的选举。也许不是巧合，公司在今年六月改变了其使命宣言。现在 Facebook 想要“给人们力量构建社区，并使世界更紧密”。最初的使命宣言模仿了 James Madison。这个则模仿了可口可乐的广告。
对于Systrom来说，这在简单不过：言论自由不意味着低俗推文的自由。他的网络不是一个公共的场所，而是一个人们可以选择是否使用的平台。当被问及这件事时，他会反问到，“言论自由是否只对部分人公平”？Jackson Colaco 更加尖锐地发表了类似观点。“如果平台的风气很差，导致人们甚至不想发表评论，他们就不会想要分享观点，事实上，你已经在威胁思想的表达”。
无关风月 无关诗书！