谷歌用人工智能技术自动屏蔽不良言论
2019/03/25 16:23AI云资讯11236
对于不友善言论,知乎采取的方法是折叠,微博上更常用拉黑,或者屏蔽关键词。为了净化网络讨论环境,Google 也做出了自己的尝试,他们推出一个叫 Tune 的 Chrome 插件,用户可以打开按钮,对一些恶毒评论进行屏蔽。

这个小工具来自 Jigsaw 公司,它的前身为 Google Ideas,是 Google 创建的一个技术孵化器,致力于用技术解决网络暴力、言论自由、信息透明等难题。
Tune 的作用就是屏蔽恶毒评论。它目前支持 YouTube、Twitter、Facebook、Reddit、Disqus五个平台,开启之后,用户会看到一个调整恶毒程度的按钮,有 quit、low、medium、loud、blaring 五档,级别越高,可以看到的恶毒评论越多,反之则是一个安静友善的网络环境。
你还可以选择两个极端:来者不拒展示全部评论、岁月静好隐藏所有评论。
有哪些评论会被屏蔽呢?带攻击、侮辱性质的话语是一定会被屏蔽的,比如常见的 F 开头字眼。这些评估基于人工智能技术,用一套机器学习模型来评估评论可能对会话产生的影响。Perspective 网站展示了这套模型的忍耐度,你可以尝试输入一些评论,测试它们是否恶毒。
这项技术的应用不光是检测恶毒评论,还能引导社区氛围。维基百科正在研究如何避免编辑词条时的恶意攻击,媒体则用来引导高质量讨论。水贴、抖机灵、夸大事实…… 这套系统可以做的还有很多,任务艰巨。
目前 Tune 仅仅是一个实验性的项目,它对恶毒评论的评估不一定准确,会有漏网之鱼、也会“误杀好人”。不过对于只想要安安静静上网的网友来说,这倒是个不错的工具,眼不见心不烦。
当然,这个工具仅仅是在使用者的一端屏蔽了恶毒评论,无法根除这个问题。想建立一个真正友善的社区,还是要靠平台合理的规则引导,以及每个人的自觉。
相关文章
- 谷歌发布全新Gemini 4 Hydrogen模型,复杂问题理解能力再升级
- OpenAI称ChatGPT搜索正追赶谷歌,搜索请求量已达谷歌的20%
- 谷歌推出 Gemini 4 Carbon,网络安全能力实现重大跃升
- 苹果智能家居系列亮相 核心产品HomeView挑战亚马逊和谷歌
- 谷歌正式发布 Gemini 4 Argon,实力比肩行业顶级水平
- SpaceX 搭载谷歌 AI 芯片升空,推进太空数据中心建设
- 谷歌人类基因组图谱或将为新型疗法铺路
- 谷歌推出全新 Gemini 3.8 Flash 模型:性能再升级,成本或将上涨
- 尚贤科技SX-Creval外贸独立站搭建,海量型号库,获取谷歌精准流量
- 谷歌 AI 核心管理层迎来重大调整,负责人戴密斯·哈萨比斯卸任
- 谷歌 DeepMind 推出新一代 AI 模型,能够操控机器人的全身躯体
- 英伟达与微软牵头成立开放AI安全联盟,OpenAI、谷歌及Anthropic均未加入
- 谷歌携手联发科打造下一代TPUv9芯片,将CPU与计算晶粒合封于一体,助力AI智能体发展
- 谷歌投资A24,共同开发人工智能电影制作工具
- 数据中心耗电远超电网负荷,迫使英伟达与谷歌在2026年第三季度前启动800V直流电架构改造
- 苹果和谷歌新增对Thread 1.4的支持









