周鸿祎:人工智能是数据智能,要防止“数据投毒”

2018-11-09 14:03:27爱云资讯

“人工智能在给我们带来赋能的同时,自身的安全问题被忽视了,当前人工智能本质上是数据智能,要防止数据投毒。”11月8日,周鸿祎在乌镇互联网大会上重申了对未来网络安全的谨慎态度。

人工智能在此次大会上依然是热词,有专家预测称,2030年之前全球会有万亿计的智能设备连到互联网上。随着人工智能技术的发展,软件定义一切,万物皆要互联,网络安全也将产生巨大的威胁。

周鸿祎表示,人工智能是大数据训练出来的,训练的数据可以被污染,也叫“数据投毒”。比如,通过给智能汽车输入“污染”过的训练样本,就可以把“禁止通行”的交通标志牌识别为“可以通行”,从而造成交通事故和人员伤亡。与此同时,人工智能识别数据的传感器也可以被干扰。同样是智能汽车,用激光笔对着无人驾驶车的激光雷达晃一晃,车就可能瞬间停下来,被后车追尾。另外,周鸿祎还表示,人工智能内部复杂的计算逻辑和决策过程还不透明,可以被欺骗或绕过,通过这种方式,家里的智能音响甚至可以变成窃听器。

未来的世界是一个被软件吞噬,充满漏洞的世界,没有固若金汤的防线。对网络安全而言,同样需要借助人工智能、大数据和云计算这些新技术的力量。在昨天的领先成果发布会上,360推出的“安全大脑”获得世界互联网领先科技成果奖。360“安全大脑”就是借助人工智能技术,依靠大数据侦测,从浩如烟海的数据中寻找蛛丝马迹,识别异常的访问和行为,然后进行溯源,最后交给安全专家进行决策。

另外,没有网络安全就没有国家安全,未来的军事网络、工业网络,国防工业、政府网络和个人网络的安全实际是一个整体。这要求我们要用国家级的视野看待网络安全,每个国家都要建自己国家级的网络安全大数据系统,拥有国家级的视野,国家级的数据,最后才能真正抵御国家级的攻击。

我们推出的360安全大脑严格来说,并不是市场行为,而是国家行为。我们愿意把自己的经验、数据、技术、能力开放出来,与安全公司一起合作,把安全大脑本身的核心技术和大数据打造好,成为很多安全公司背后的赋能者,在国内真正把一个大的生态做起来,大家合作把安全大脑打造成国之重器。

在此次大会上,沈南鹏也发表了相同的观点。他介绍,中国的风险投资过去20年投的最多是电子商务,但过去45年,美国红杉投资最多的是安全领域。他还建议需要把更多的资源和产业重心放在安全领域中,未来的智能产品越来越丰富和复杂的时候,相应的安全产品也要能够跟上去。

相关文章
热门文章
头条文章
重点文章
推荐文章
热点文章
关于我们|联系我们|免责声明|会展频道
冀ICP备2022007386号-1 冀公网安备 13108202000871号 爱云资讯 Copyright©2018-2023