人工智能安全吗？Black Hat 大会上的这个议题也许可以回答

Black Hat 大会已经走过了20个年头，作为世界领先的信息安全峰会，它为与会者提供了大量的第一手安全研究、开发和趋势资讯。而今年的Black Hat 大会，也仍然对当下最热的领域进行了深度的讨论与剖析，比如区块链、人工智能等。

世界各地的安全公司、研究团队，想要跻身议题接受率不足20%的Black Hat，并不是一件容易的事。而作为国内最大的互联网安全公司，360再次让我国在世界安全圈扬眉吐气——共有7个议题入选，创下了国内公司入选议题的新高。

这些入选的议题，覆盖了芯片漏洞、手机系统漏洞、智能硬件安全、人工智能算法安全性、物联网等当下备受关注的领域，其中，由360智能安全研究院院长李康带来的“AI安全隐患”议题，可以说是给最近大热的人工智能领域，提供了一个新的思考角度。

在大会现场，李康教授指出目前AI行业正在飞速发展，但是其中也存在一些问题，比如许多深度学习开发人员，如今仍然没有意识到AI软件在实际操作时很有可能存在的风险。

对于这些风险，李康教授也用自己在实验中发现的一些真实情况做了举例：通过检查一组新开发的AI应用程序，例如图像分类和语音识别，研究人员发现开发者对于其学习、分类能力，有着过于乐观的预估。但其实，其中存在的漏洞，和可能会被攻击者利用的“把柄”还有很多。

李康教授还在现场展示了许多AI威胁案例，以及各种攻击效果，包括逃避分类、数据泄漏、甚至是整个系统对攻击者的妥协。最后，他还说到：“我们希望通过展示这些威胁和风险，可以吸引开发人员对AI软件安全的关注，并呼吁整个人工智能及安全行业，一起努力，全面提高深度学习框架和AI应用程序的软件安全性，为未来人工智能的发展注入动力。”当然，关注当下安全问题，把握未来发展趋势，这也是Black Hat 大会每年召集全球信息安全从业者们共同探讨、分享的初衷。