DEF CON上中外黑客齐聚谈AI GeekPwn打造AI安全嘉年华

美国当地时间8月10日至11日，全球最大关注智能生活的黑客大赛GeekPwn主办的CAAD Village在DEF CON举行，十余位AI安全领域的顶级专家学者围绕AI“对抗样本攻防”带来了精彩的分享。2018年，为促进黑客界与人工智能界的跨界融合，GeekPwn特别设置CAAD 对抗样本攻防赛、CAAD CTF两大赛制以及CAAD Village黑客村，旨在深入挖掘人工智能安全领域可能存在的风险，保护人工智能健康成长。

在CAAD Village现场，十位来自全球知名高校及顶尖互联网企业的研究人员，用十个议题深入剖析了时下“成熟的”AI应用面临的安全威胁，带来一场AI安全领域最聚焦的思想碰撞。议题列举了对抗样本能够轻而易举地欺骗图像识别系统、语音识别系统，甚至是杀毒软件等领域，AI 应用环境正在经受重重安全挑战。

十大议题对抗样本攻防 带来AI安全领域最聚焦的思想碰撞

来自腾讯安全云鼎实验室的张壮、史博以及董杭枫带来了关于“狗斗的利器GAN：病毒对抗杀软的免杀大发”的议题分享，他们在现场以基于卷积神经网络的多形态恶意软件检测为例，分享了安全厂商应用人工智能之后对抗病毒免杀技术的效果；同时还站在攻击方的视角，介绍了恶意软件使用了生成式对抗网络之后，可绕过应用机器学习检测模型的案例。

（腾讯安全云鼎实验室安全专家张壮）

而来自百度X实验室的许伟林等三人分享了他们对自动驾驶汽车的研究——给自动驾驶汽车“变魔术”。通过对抗性机器学习可以给自动驾驶汽车制造“眼前”存在障碍物的幻觉，或者让障碍物在自动驾驶汽车“眼前”凭空消失。许伟林表示：“这种技术已经接近实用，自动驾驶领域的AI安全仍然面临巨大挑战”。 自动驾驶领域面临困境，那智能语音识别领域就万无一失吗？来自加州大学伯克利分校的研究生Rohan Taori和Amog Kamsetty是本次参赛平均年龄最小的团队，他们在《针对黑盒音频系统的目标式对抗案例》中介绍了利用GAN“迷惑”自动语音识别（ASR）系统的方法，实现了在音频文件相似度保持在94.6%的情况下，定向攻击超过本公告率高达89.25%。也就是说，当你在浏览视频时听到的正常声音，里面包含了启动你的手机转账功能的可能性不仅存在，而且这个攻击的成功率相当高。

此外，本次CAAD CTF的参赛团队也带来了相关领域的议题分享。由微软应用科学家赵耀和谷歌软件工程师赵宇哲组成的独立研究团队YYZZ在CAAD Village上提出了一种名为“对抗性的平方训练法”,用于增强神经网络分类器的防御能力；来自京东安全研究中心JD-Omega团队的郭文博和AlejandroCuevas针对对抗样本攻击和防御的技术进行了介绍；来自清华大学TSAIL团队的庞天宇、杜超则分享了去年NIPS挑战赛的夺冠经验；来自克莱姆森大学博士生Joseph Clements也从硬件物理层面，探讨了针对神经网络的新式攻击，还分享了他提出的一种向神经网络上植入后门的方法。

作为首次亮相DEF CON的新成员，GeekPwn CAAD Village带来了一场关于AI对抗攻防最聚焦、最多样、跨领域的AI安全嘉年华，承载了黑客对未来世界的好奇与探索。正如KEEN公司CEO、GeekPwn大赛发起和创办人王琦所说，安全漏洞从来不是因为黑客才存在，恰恰是因为黑客发现而被消灭。GeekPwn一直呼吁白帽子黑客能够提前发现问题、修复问题，避免安全问题的发生。未来，AI将在这些白帽子与研究人员的护航下，走的更远。

据悉，GeekPwn2018嘉年华将于10月24日-25日在中国上海举办，届时，CAAD 对抗样本攻防赛、数据追踪挑战赛、黑客屋挑战赛、机器特工挑战赛、基于漏洞攻破挑战赛、非基于漏洞攻破挑战赛、GAN掉马赛克挑战赛、RFID远距离读写挑战赛将轮番上演，敬请期待。