谷歌用人工智能技术自动屏蔽不良言论

对于不友善言论，知乎采取的方法是折叠，微博上更常用拉黑，或者屏蔽关键词。为了净化网络讨论环境，Google 也做出了自己的尝试，他们推出一个叫 Tune 的 Chrome 插件，用户可以打开按钮，对一些恶毒评论进行屏蔽。

这个小工具来自 Jigsaw 公司，它的前身为 Google Ideas，是 Google 创建的一个技术孵化器，致力于用技术解决网络暴力、言论自由、信息透明等难题。

Tune 的作用就是屏蔽恶毒评论。它目前支持 YouTube、Twitter、Facebook、Reddit、Disqus五个平台，开启之后，用户会看到一个调整恶毒程度的按钮，有 quit、low、medium、loud、blaring 五档，级别越高，可以看到的恶毒评论越多，反之则是一个安静友善的网络环境。

你还可以选择两个极端：来者不拒展示全部评论、岁月静好隐藏所有评论。

有哪些评论会被屏蔽呢？带攻击、侮辱性质的话语是一定会被屏蔽的，比如常见的 F 开头字眼。这些评估基于人工智能技术，用一套机器学习模型来评估评论可能对会话产生的影响。Perspective 网站展示了这套模型的忍耐度，你可以尝试输入一些评论，测试它们是否恶毒。

这项技术的应用不光是检测恶毒评论，还能引导社区氛围。维基百科正在研究如何避免编辑词条时的恶意攻击，媒体则用来引导高质量讨论。水贴、抖机灵、夸大事实…… 这套系统可以做的还有很多，任务艰巨。

目前 Tune 仅仅是一个实验性的项目，它对恶毒评论的评估不一定准确，会有漏网之鱼、也会“误杀好人”。不过对于只想要安安静静上网的网友来说，这倒是个不错的工具，眼不见心不烦。

当然，这个工具仅仅是在使用者的一端屏蔽了恶毒评论，无法根除这个问题。想建立一个真正友善的社区，还是要靠平台合理的规则引导，以及每个人的自觉。