人工智能变成“人工智障”,聊天机器人Bug频出要凉了?
2018-07-01 23:17:15爱云资讯阅读量:1,308
“在静谧的午夜,当你和家人正在熟睡,家中突然响起尖利笑声,笑声时远时近,这是多么令人毛骨悚然的事。今年2月,多名用户在Twitter、Reddit等平台上反映,内设Alexa的智能设备会在毫无征兆的情况下突然发笑,此事件一出便在社交网络上引起热议。”
Alexa语音助手不仅可以根据用户的语音指令播放笑声,亚马逊还给她内建了一个“笑声库(Laugh Box)”,用户可以自定义Alexa笑声的类型,从“宝宝咯咯笑”到“别有用心的坏笑”,一应俱全。
对于Alexa在没有任何明显指令的前提下兀自怪笑的情况,亚马逊解释为,在非常罕见的情况下,Alexa会错误地将环境噪音辨别为短语“Alexa,笑一个”,并做出响应。
一位Echo Dot的用户说,他们让Alexa在早上关掉闹钟,她的回应时发出“像女巫一样的”笑声。Echo Dot的另一位“幸运”用户在推文中称,正躺在床上准备入睡,Echo Dot上的Alexa突然爆出一声毛骨悚然的大笑……我恐怕活不过今晚了。
Bug问题频出 聊天机器人变成“人工智障”?
类似的情况,在聊天机器人身上已经不是第一次发生。两年前,微软在Twitter上的聊天机器人Tay变成了“种族主义者”。去年,它的后续产品Zo又再次出现问题。
尽管微软通过编程让Zo忽略政治和宗教话题,但BuzzFeed的编辑尝试让Zo对某些受限话题做出了令人惊讶、充满争议的回应。在交流中,Zo将古兰经称作“非常暴力”。此外,它还对本·拉登的死亡做出评论,称抓住本·拉登是“不止一个政府多年情报收集”的结果。
到现在为止,聊天机器人依然存在着众多问题。2016年,Facebook Messenger开放其程序接口后,收到的用户反馈很少。众多机构确实可以在短时间内拥有自己的智能聊天机器人,但当此类机器人无人类干预时,应答失败率高达 70%,用户体验更是相当糟糕。
从“图灵测试”到Eliza的精神治疗,聊天机器人发展至今已经走过了近70年,在漫长的发展历程中,聊天机器人并未得到真正的普及,并且依然存在着诸多弊病。
在各类问题中,复杂语言识别困难、个性化适配之痛、隐私安全隐忧成为最突出的问题。语言作为一种主观性较强的表达方式,人们说话的规则可以说是千变万化的。这和电脑程序不同,人们表达不会完全受制于规则,能够自由的遣词造句,并以此来传递信息。
除了地方方言外,每个人也会有自己独特的表达方式,例如心照不宣的“暗语”,或者某些特定的“梗”。结构化语言系统将难以满足大量用户的需求,这对聊天机器人的系统提出了更高的要求。
个性化适配问题体现在两个方面,一方面人机信任是聊天机器人个性化发展的一个攻坚点。另一方面,聊天机器人很容易对人的需求产生误读。
目前聊天机器人语音识别主要基于语音识别的基本架构、声学模型、语言模型并进行解码,而真正通过用户画像来实现个性化适配的聊天机器人少之又少。其实,不同用户的性格、特点、知识层次都不相同。如果有预设的用户画像,那出现适配失误的可能性也会大大减小。
最近,Facebook泄露5000万用户数据,成为史上最大数据泄露案,特朗普被指利用AI竞选成功,这也让更多的聊天机器人用户对自身的隐私感到担忧。“Alexa发笑”事件中,亚马逊对该事件闪烁其词,似乎用户数据已经进入了“围墙花园”模式。
语音分析和人工智能软件存在于一个黑匣子中,而这些软件只有开发人员才能真正理解。很难想象,如果将一切的智能家居与聊天机器人连接起来时,涉及到的数据、信息都存储在一个用户无法拥有也无法控制的计算机上,这将是一件多么危险的事。如果将人工智能进一步拓展到金融、医疗等领域,1%的错误率导致的可能就是财产的损失和生命的安全。
聊天机器人发展走进死胡同 哪些方面需要回炉重塑?
2018年初,Facebook关闭了虚拟助理M,成了压死骆驼的最后一根稻草。M于2015年8月推出,用户可以通过Messenger得到人工智能的回复、建议等。
在推出时,Facebook为其打上了“测试”标签,但随着时间的推移,M并没有获取Facebook预期的用户量,而直到下线前,M仍然处于beta测试状态。许多互联网公司对聊天机器人已经不感兴趣了,聊天机器人的发展也走进了死胡同。
如果要要让聊天机器人重新焕发生命力,不仅需要其在自动学习中“更聪明”,还将帮助它建立起独立的三观,辨析什么是对什么是错,同时也要更为深层地引入人类世界的规则。
能够独立表达喜欢、不喜欢和偏好的性格,在聊天的过程中展示出诚实和值得信任等可贵品质,是塑造聊天机器人“独立三观”的重要体现。正如聊天机器人被引入日常生活,我们还能训练机器人去识别我们的语言,挖掘我们的喜好,甚至还能分析我们的口音,推测人类的情绪。
此外,还要让聊天机器人脱离模仿层面,进入主动思考的阶段。在此过程中,需要建立更加丰富的知识图谱。知识图谱的建立需要从静态和动态两个方面出发,真正将聊天对话场景从垂直领域拓展到开放领域。同时,构建知识图谱的重点在于语义理解、知识表示、QA、智能对话和用户建模。
作为人工智能产品的重要代表,聊天机器人在跨领域智能客服、智能呼叫中心解决方案、智能营销解决方案、智能语音交互解决方案等多个方向还是大有可为。这显然不仅是聊天机器人或个别互联网公司的任务,也是整个行业的义务。
相关文章
- 全球人工智能峰会呼吁全球行动,确保人工智能创新“造福人类”
- 微软推出Copilot Pages功能,为企业打造的新型协作式人工智能平台
- 2024年全球人工智能峰会闭幕日继续改变数据和人工智能格局
- 合合信息上市:专注人工智能及大数据科技,C端产品月活过亿
- TCS在2024年服贸会上发布《人工智能商业应用研究报告 》,揭示AI对企业变革的深远影响
- 标贝科技亮相深圳国际人工智能展 并荣获最佳行业应用标杆奖
- 曼孚科技完成数亿元B++轮融资,以大模型重构人工智能生产新范式
- 探索未来智慧的边界:“纵横”论坛人工智能安全论坛圆满举行
- 九四智能受邀亮相第五届深圳国际人工智能展
- 2024年人工智能技术赋能网络安全应用测试结果公布:安恒信息恶意软件检测场景排名第一
- 好评+2!相芯数字人荣获最佳行业标杆应用、最受欢迎人工智能产品两大奖项
- 第九届“创客中国”生成式人工智能(AIGC)中小企业创新创业大赛圆满落幕
- AMD新战略放弃旗舰级游戏显卡,专注于人工智能领域
- 海淀工匠学院揭牌暨第四届“海淀工匠杯”职工职业技能大赛人工智能应用与网络安全职业技能竞赛启动仪式圆满举行
- 广东省通信学会人工智能专业委员会成立大会暨人工智能技术论坛9月9日隆重举行!
- 对“开源”的新定义可能给大型人工智能公司带来不利