百度智能云司南正式发布，违规内容审核效率提升10倍

AI生成的违规内容，现在也可以用AI来高效治理了。

9月25日消息，在近日举行的第四届琶洲算法大赛生态赋能大会上，百度智能云正式发布全新的AI审核产品——百度智能云司南，能够覆盖从文本、图像到音视频、直播流的全模态内容，帮助企业在AIGC信息爆发增长的时代高效拦截违规内容。

据测算，相较于传统审核方式，百度智能云司南审核效率高10倍，而企业仅用1/4的成本就可以雇用这样的“AI审核员”，实现内容审核的 “多快好省”。

百度副总裁阮瑜受邀在本次大会上发表了《大模型应用助推企业生产力跃迁》的主题演讲，演讲中提到随着大模型应用的创新加速推进，大模型生成内容的数据量也迎来爆发式增长。与此同时，大量违规内容的出现，也将给企业经营带来巨大风险。

过往，企业数据治理多采用传统“小模型机审+人审”的内容审核模式。但面对AIGC时代，层出不穷且不断变异的改编恶搞、图文混合隐喻、上下文串联违规等复杂隐蔽违规内容，传统模式难以灵活应对，漏判率和误判率较高，整体审核效率低，无法满足审核要求。

在此背景下，百度智能云对审核产品做了全面升级，发布全新的AI审核产品百度智能云司南。

百度智能云司南产品负责人韦贤秋介绍，“司南”的命名源于其为中国古代指南针，象征着能为AIGC内容指明健康方向。当前内容生态中，误导性信息、不良内容等隐患频发，百度希望用大模型技术铸造安全屏障，守护清朗的内容环境。

在效果上，相较市面方案，“司南”颠覆性显著：传统小模型准确率85%-90%已是瓶颈，相较于传统审核方式，“司南”平均准确率可以达到95%以上，能识别人眼也难辨的潜在违规内容。

同时，面对跨地域语言语境适配需求，“司南”依托大模型多语种能力，针对英语、阿拉伯语、日语等十多种主流语言，结合各语言表达方式、习惯及当地价值观与习俗进行专项训练，能为有出海诉求的企业提供更接地气、更适用的服务。

针对内容审核在“误杀”和“漏杀”之间权衡问题，百度智能云司南还可以适应企业自己的监管要求，达到企业对内容风控的目标，产品团队也针对不同的管控尺度做了不同的标签，开放给企业自行选择标签和松紧度，来确保自己业务经营范畴内的合法合规，帮助企业更好更健康地运作。

百度智能云司南已经深入到社交、游戏、媒体等多个行业的上万家海内外企业，为企业客户们提供强大的内容风控能力。未来，“司南”将持续深化大模型技术与多场景适配，与更多企业客户携手维护清朗的内容生态。

据了解，本届大赛以“算法领航 琶洲奋进” 为主题，由广州市人民政府、中国人工智能学会主办，大赛汇聚全球30余个国家的八千余支团队同台竞技，领跑中国算法赛事规模，向世界亮出了中国人工智能的“硬实力”！