同盾科技蒋韬:AI护航内容安全,助力净化信息生态

2021-02-03 22:11:24爱云资讯

近日,同盾科技中标云南广播电视台省级平台能力提升项目,这也是继新华社、央视、人民网、浙江广电后,同盾科技合作的又一家重要媒体集团。同盾科技创始人、董事长蒋韬表示:“未来,同盾愿与更多机构携手,为打造一个更加安全、健康的信息环境而努力。”

同盾科技蒋韬:AI护航内容安全,助力净化信息生态

为了辅助云南电视台集成播控平台节目管理人员加强对节目内容的质量把控,为用户打造健康、积极向上和内容丰富的视频体验,云南电视台计划建设一套智能内容审核系统,该系统将具备不少于500小时/天的高清节目审核能力。为此,同盾科技依托智能内容安全平台协助云南电视台智能审核节目中涉黄、暴恐、涉政、违禁等敏感内容。

基于深度人工智能算法及强大的算力平台,同盾科技旗下业务安全独立品牌小盾安全构建了包含智能文本、图像、语音、视频等在内的一站式安全管控平台,它能精准识别内容中涉黄、涉政、暴恐、违禁、广告等多类违规风险,为客户构建牢固的内容安全防火墙。

小盾安全视频图像识别方案包括智能审核和智能编目。基于深度学习模型,提供多个业务场景下的智能鉴黄、智能鉴暴和智能鉴政的“三鉴”服务,提供事件(场景)识别、物体识别、OCR识别等智能图像和视频识别能力。

内容安全产品的核心问题,归根结底主要在三个方面:样本收集和标注能力、算法能力及运营效率。小盾安全在这三方面进行了全面的创新和升级。

首先看样本标注和算法能力建设。

在内容安全领域,算法能力建设的关键在于样本的获取与标注,以及对算法的灵活应用及调优。以垃圾图像样本标注为例,细分领域包括涉黄,打标图像包括正常、性感(小尺度、大尺度)、色情(通用色情、儿童色情)等近10种类别,涉暴恐包括枪支、炸药、爆炸、火炮、军队、血腥、暴乱等10余种类别,涉政事件以及针对图像广告有各类文字广告识别,还有二维码等。文本、语音、视频的样本标准同样涉及到数十种不同类别。业界有句话叫“有多少智能就有多少人工”,这句话用在内容安全领域更是贴切。

为了解决样本的高效获取,内容安全产品使用了包括数据采购、数据交换、专业运营、外包运营、政府合作、违禁词推荐/挖掘等大量的不同方法,通过产品、运营、技术、算法结合的多种方法组合,周期性沉淀大量标注数据。

有了大量的标注样本后,就可以灵活使用不同的深度学习算法,训练各种通用、行业化、个性化的模型。如文本联系方式抽取模型、无意义文本模型、文本分类模型、图像OCR模型、图像分类模型、语音分类模型、视频关键帧提取模型等数十种模型。在通用模型基础之上,根据行业差异,再叠加一层行业化和个性化模型进行综合决策,保障不同行业的效果稳定。

另外,针对垃圾内容变异速度快,模型迭代周期无法及时跟进,小盾安全通过高效特征提取算法,构建了基于行业及合作方的内容安全相似黑白样本库,实现内容变异的多维防控。

经过算法能力建设,在各场景都能保持较高的准确率,例如小盾安全文本和图像识别召回率(有效拦截)一般在95%以上,准确率保持在99%以上。

不仅仅是媒体机构,小盾内容安全智能平台还面向银行、互金、保险、证券、互联网等广大客户群体。目前,小盾安全已获得工信部首批资质认证,通过了由中国信息通信研究院牵头组织的内容安全解决方案标准资质认证。 人工智能

相关文章
热门文章
头条文章
重点文章
推荐文章
热点文章
关于我们|联系我们|免责声明|会展频道