知乎“瓦力”挑战AI技术世界难题 启迪内容平台价值观
2018-06-26 19:07:04爱云资讯
这些话不违反法律,但当因为文化背景、生活经历的不同导致的看法不同,通过破坏性的方式表达时,损害了网络社区文明秩序,降低公共讨论的质量和体验。如今,互联网企业也已经行动了起来,比如知乎就通过AI技术尝试处理阴阳怪气的言论,以创新思路引导文明新风。
“瓦力”,是一种价值观
根据知乎内容质量团队技术负责人刘兆来的介绍,“瓦力”是负责知乎社区治理的算法机器人之一,可以实时识别和处理不友善、答非所问和垃圾广告导流信息。这一次,“瓦力”挑战的是困扰世界情感分析领域的前沿问题:“阴阳怪气”内容识别。
所谓阴阳怪气,是用户以反讽的方式攻击他人,影响正常的讨论秩序。比如现实社会里大家正认真讨论问题,突然出现一个人讽刺大家多管闲事,气氛马上就会尴尬甚至紧张起来。“阴阳怪气”言论的判定非常依赖个人感受,每个人的情绪阈值不同,且同样的语料在不同讨论语境下也会引发不同情绪,这更为算法识别带来了极大挑战。知乎在过去7年中所累积的“举报”等带有用户筛查性质的行为语料和丰富的社区管理经验,使得知乎得以迈出关键一步:用社区最大公约数作为判定尺度。
“我们基于对于用户切实体验的累积观察,与算法团队一起,从情感倾向性、亲密关系、文本特征三方面入手,训练出能够识别阴阳怪气的算法模型。目前‘瓦力’对阴阳怪气评论文本的识别准确率,已非常接近社区最大公约数,比很多人工判断都更准。”知乎运营总监孙达云表示。知乎近期会让用户自由选择是否开启“瓦力”智能过滤,真正让阴阳怪气识别技术进入产品化尝试。
互联网创造了公共讨论的空间,但随之也带来了大量网络暴力,甚至酿成如“北京90后女孩与父母两次自杀”等人间悲剧。更可怕的是,网络暴力没有幸存者,建立良好的网络讨论环境,也是保护每个网民切身利益的举措。知乎“瓦力”从识别不友善晋级到识别阴阳怪气,这一升级,对中文乃至世界互联网的讨论环境,将起到一定的促进作用。
在人类无法兼顾的海量信息中,让 AI 算法变得更聪明,尝试识别人类语言背后的情感意义值得称赞。更为重要的,是“瓦力”传达了知乎的积极导向和价值观。客观上看,算法是“中立”的工具,不同的目标和应用可以发挥完全不同的价值,知乎的选择,是用算法打造一个友善的、大家能好好说话的网络空间。
文明,是奋斗出来的
产生于上世纪80年代的“进化心理学”认为。人类心理也符合达尔文的进化论,一切本能行为都是为了保证自身的生存、繁衍。然而我们纵观人类发展史,却会发现每一次进步都是建立人类在对本性的反抗、修正之上,正是反省自身行为、克制原始冲动的能力,让人得以脱离丛林生活的野蛮。
有历史记载的几千年来,人类早已脱离了险恶的丛林环境。即便我们的心理仍然留着先祖烙印,但在经历数次工业革命,线上还构建起庞大的数字世界时,我们已经拥有了建设新生态的能力,而不是任由原始基因惯性发展。
互联网发展到目前阶段,也需要将上网礼仪这一议题提上日程。在对公共话题的讨论中,尊重他人、友善对待不同观点,应该是网络世界的一个基本交规。
互联网行业正成为精神生活的重要场所,同样也承载社会价值重任。在追求财富的过程中,互联网企业也应更多考虑平台内容的价值观内核,以正能量取代负能量,以积极引导取代消极放纵。知乎“瓦力”,给我们带来的不只是对AI科技的赞叹,也是启迪未来的开始和表率。
- 阿里达摩院院长、知乎创始人等多位大咖力荐,国内首本AIGC金融应用著作首发
- 知乎“不知道诊所”亮相AWE,行业大咖聚焦家电数码需求“诊断”
- 知乎“灯塔计划”全体亮相,动画片《小果酱》首集发布
- 知乎联合AWE上线探展全攻略 打造营销新势力
- 连续三年复投品牌高达88%,知乎成家电数码新品营销第一站
- 知乎2023年度新知答主名单揭晓:彰显新职人专业、多元画像
- 知乎“不被定义的我们”妇女节活动:展现多元女性力量
- 知乎盐言故事上线女主季活动 重新定义网文“大女主”题材创作
- 京东联盟与知乎发布“京知计划”案例,进店率高于同期4倍
- 知乎“2024新春放映室”:《飞驰人生2》口碑领跑,《热辣滚烫》两极分化
- 知乎“灯塔计划”助答主团队建设天文台网
- 春节不打烊!知乎龙年春节系列活动精彩登场
- 知乎“2024答案奇遇夜”播出 由京东独家冠名、OPPO联合赞助
- “我给乡村送年货” 京东联合知乎为村民传递春节温暖
- 《洗铅华》IP再开发,同名广播剧登陆知乎盐言故事
- 知乎范俊梅:短篇故事3年内将迈入百亿规模时代