“中文十级”难题,AI怎样解读产业界
2018-08-07 10:27:58爱云资讯
在人工智能领域,“懂语言者得天下”是普遍的共识。其中,可帮助人工智能识别人类语言的自然语言处理(NLP)被誉为人工智能语言“皇冠上的明珠”。
当人工智能自然语言处理技术遇到“要你管和不要你管”“掉地上和掉地下”“我一把把把把住了”等中文“绕口令”,“小意思”“意思意思”等多义词时,及“俺们那疙”“中不中”等方言时,该怎样“听懂”这些“中文十级”语句呢?日前在成都举办的科大讯飞未来科栈活动上,记者采访了相关专家。
能分词会断句 机器尚在努力
NLP就是机器让计算机来理解和处理人类自然语言的技术,它和计算机视觉、语音处理的区别在于信息处理的类型。
“计算机视觉主要处理图像,语音技术处理声音,而NLP主要是对文字的理解。”云浮科技的创始人兼CEO张文斌说,在人工智能中,语音识别是耳朵,语音合成是嘴巴,计算机视觉是眼睛,而NLP则负责将抽象的文字符号转化为计算机能理解的语言。
“‘中文十级’的某些语句,人类去理解都有很大难度,何况是计算机。”张文斌说,在口语和书写上,汉字往往没有词与词之间的边界,即便机器能够准确识别文字,但理解它的意思却很难;再比如各种五花八门的地方口音和方言,也是“绊脚石”。
“自然语言处理一般从最小的语意单位‘词’开始,即分词算法。这最简单,也最成熟。”张文斌说, NLP的算法分为语法级别、句子级别分析等,其中分词就是将字词切开,让机器明白哪几个字组成一个词,哪几个词组成一句话,从而理解整句、整段的意思。但在“分词”实际的应用过程中,仍有各种问题。
张文斌解释,首先是分词标准不确定、存在歧义,及新词和实体词困扰等问题。如“乒乓球,拍卖完了”和“乒乓球拍,卖完了”无论怎么切分都正确,这就要依赖上下文语境。其次,每年都会涌现出的网络词汇,“神马”“不明觉厉”“佛系”等原来不存在的词也需要计算机理解。
听语气判关系 AI有新招
如何让机器读懂上下文语境,从而进一步了解整段话的含义?
“我们会尝试利用听人类说话时的停顿信息,作为一种分词算法的辅助。”讯飞翻译业务负责人翟吉博说。
对于AI工程师们来说,更重要的是深层次的算法,如实体识别、属性抽取等。“就是把人名、地名、机构名等实体识别出来后,再抽取实体之间的关系,搞清楚不同实体在句子中的不同属性。”张文斌说,五花八门的算法还有很多,比如情感分析,分析文本里面蕴藏了什么样的情感,是正面、负面还是中性的;文档摘要,把长文生成一两百字简短的摘要等。而基于这些算法层,又可以做很多NLP的衍生应用,包括自动问答、机器翻译等。
那如何识别方言呢?在科大讯飞的新款翻译机设备中,首次推出方言翻译功能,实现河南话、东北话、粤语等方言互译,或将之翻译成外语。翟吉博说,针对不同类型方言,机器采用不同翻译流程——对同属北方方言区的河南话、东北话等,可先翻译成普通话再翻译成外语;对于粤语等南方语言,则建立独立的语料库,直接从粤语到外语进行翻译。“考虑到方言中带有许多地方特色的说法、语言、词汇,‘雄起’‘中不中’等也可以作为独立的语料,由机器单独学习。”他说,人工智能的优势是在自然语言处理方面能够不断从用户处积累语料,学习新的词汇和表达方式,不断完成自身数据库和语料库的更新。
- 虹软科技PSAI入驻阿里1688平台,加码B2B商拍服务
- 360 AI数字人助力杨家埠景区升级游客体验,打造文旅数字品牌
- Check Point 云安全报告揭示了对预防为主的人工智能 (AI) 安全防护措施的迫切需求
- 玩转大模型 企业AI着陆新正解 神州问学AI原生赋能平台正式发布
- 从个人 AI Agent看AI手机的现在与未来
- 牛客AI再获奖!荣登「2024年度人力资源科技影响力品牌30强」榜单
- 鲲鹏昇腾开发者大会-AIGC时代大模型落地实践与应用研讨会成功举办
- 昇腾AI基础软件全面升级,激发开发者原生动力,突破创新边界
- 打造新质生产力,“AI+工业”应该怎么“加”?
- 青云QingCloud云易捷打造AI时代的轻量化超融合
- Remini催热AI影像赛道万兴科技美图等抢先布局
- 用友大易入选甲子光年《2024年AI Agent行业报告》
- 鲲鹏昇腾开发者大会2024|AIGC时代大模型落地实践与应用研讨会成功举办
- JFrog 助力开发者实现安全AI之旅,与 DataBricks 的 MLflow 集成实现无缝机器学习生命周期
- Link the world|Meta大中华区产品营销负责人确认出席,解读AI如何赋能自动化营销全链路
- 正式发布|绿盟AI大模型风险评估工具