腾讯胡珀：从危到机，AI 时代下的安全挑战

腾讯如何运用AI 技术应对安全挑战？AI时代下，安全攻防又有哪些新变化？——在6月30日的2018 全球人工智能与机器人峰会（CCF-GAIR）上，腾讯安全平台部总监、Tencent Blade Team负责人胡珀，揭秘了腾讯AI安全布局和最新进展。

胡珀首先分享了对AI本身的安全问题的考量与反思。他提出，AI将是下一次的工业革命，但不可避免的存在安全方面的局限性。智能设备渗透到各行各业，也将会带来很大的安全隐患。除了自身算法安全、第三方组件问题，AI技术还可能被黑产利用。

面对AI时代的安全隐患，胡珀认为：“安全绝不仅仅是被动的事后处理，而是也要主动研究最前沿、最尖端的技术，用未雨绸缪的前瞻性研究来武装我们的工作。” Tencent Blade Team正是腾讯专项进行安全研究的部门，研究重点随着腾讯和整个安全行业面临的实际场景不断进行调整变化。近年来随着AI大规模工程化、实用化，Tencent Blade Team加大了对 AI 智能设备安全方面的研究。

在具体场景下不断实战的同时，腾讯也助力行业进行技术优化。17年年底，腾讯发现谷歌人工智能学习系统TensorFlow存在严重安全风险，可被黑客利用带来安全威胁，Tencent Blade Team向谷歌报告了这一风险并获得致谢。据悉，该风险是TensorFlow首个自身安全风险。

相比同行业公司，腾讯的AI+安全所面临的场景更加丰富。腾讯主营业务涵盖游戏、社交、支付等多个领域，如QQ及微信的登录、QQ及微信内垃圾信息的打击等，都用到机器学习来保障用户的安全。除此之外，面对近期发展迅速的AI+医疗、智慧零售和智慧楼宇，Tencent Blade Team也在探索更新的AI安全解决方案。

胡珀是国内首个漏洞奖励平台Tsrc负责人，自2007年加入腾讯以来，他一直从事国际范围内的前沿安全攻防技术、黑客攻防技术对抗研究，包括人工智能（AI）、物联网、移动互联网、数据安全等，先后负责过漏洞扫描、恶意网址检测、主机安全、DDoS攻击防护系统的建设和运营以及应急响应、前沿安全、安全培训、安全研究、漏洞奖励计划等工作。

胡珀演讲全文如下：

今天非常荣幸能够分享一下腾讯在AI安全方面所做的一些事情。先做一个自我介绍，我叫胡珀，在腾讯安全平台部工作了11年，一直在从事黑客攻防对抗方面的工作。我的一部分工作是属于安全研究，一直以来我们的理念就是安全绝不仅仅是被动的事后处理，而是也要主动研究最前沿、最尖端的技术，用未雨绸缪的前瞻性研究来武装我们的工作。为此，我们也组建了一支团队——Tencent Blade Team，专门进行安全的前沿研究，研究重点随着腾讯和整个安全行业面临的实际场景不断进行调整变化。比如最开始是研究Web安全，后来逐渐向移动互联网安全、物联网安全转型。近年来随着AI大规模工程化、实用化，我们也加大了对 AI 智能设备安全方面的研究，这个演讲就是对我们研究的总结。

AI是下一次的工业革命，我们现在不管是开会、人脸识别、车牌识别，还有智慧城市、智慧零售，还是智能手环、智能手机、智能音箱等，AI越来越渗透到我们的生活里。所有东西都AI了，基本上各个行业也都会引入AI，我们去（会场）外面看一下，全是各种智能的设备。

但是物联网设备或者所谓的智能设备渗透到各行各业，到我们生活之中，可能会带来很大的安全隐患。比如智能音箱有接收语音指令的功能，如果音箱被黑客控制的话，就可能会变成窃听器。同理，摄像头如果被黑掉，也可能被用来监视我们。

今天我要讲的主要分为两部分，第一部分是以智能设备为典型代表的AI存在的安全问题，第二部分讲腾讯把AI应用到安全场景去做安全检测或者安全防护上的实践。

AI的安全问题我们总结了一下，大概归为三类：第一类是AI算法自身的安全问题，前面几位老师也有讲到，比如现在我们的图像识别，图像欺骗，自己用PS定制一张图片，加一些像素进去，可能就会导致自动驾驶中的识别系统受到干扰。

第二类就是AI系统引入第三方的组件，但这些组件也会存在问题，这就是传统的安全问题了，包括对文件的处理，对网络协议的处理，各种外部输入协议的处理都可能会出问题。