DEF CON上中外黑客齐聚谈AI GeekPwn打造AI安全嘉年华
2018-08-15 11:16:05爱云资讯
在CAAD Village现场,十位来自全球知名高校及顶尖互联网企业的研究人员,用十个议题深入剖析了时下“成熟的”AI应用面临的安全威胁,带来一场AI安全领域最聚焦的思想碰撞。议题列举了对抗样本能够轻而易举地欺骗图像识别系统、语音识别系统,甚至是杀毒软件等领域,AI 应用环境正在经受重重安全挑战。
十大议题对抗样本攻防 带来AI安全领域最聚焦的思想碰撞
来自腾讯安全云鼎实验室的张壮、史博以及董杭枫带来了关于“狗斗的利器GAN:病毒对抗杀软的免杀大发”的议题分享,他们在现场以基于卷积神经网络的多形态恶意软件检测为例,分享了安全厂商应用人工智能之后对抗病毒免杀技术的效果;同时还站在攻击方的视角,介绍了恶意软件使用了生成式对抗网络之后,可绕过应用机器学习检测模型的案例。
(腾讯安全云鼎实验室安全专家张壮)
而来自百度X实验室的许伟林等三人分享了他们对自动驾驶汽车的研究——给自动驾驶汽车“变魔术”。通过对抗性机器学习可以给自动驾驶汽车制造“眼前”存在障碍物的幻觉,或者让障碍物在自动驾驶汽车“眼前”凭空消失。许伟林表示:“这种技术已经接近实用,自动驾驶领域的AI安全仍然面临巨大挑战”。 自动驾驶领域面临困境,那智能语音识别领域就万无一失吗?来自加州大学伯克利分校的研究生Rohan Taori和Amog Kamsetty是本次参赛平均年龄最小的团队,他们在《针对黑盒音频系统的目标式对抗案例》中介绍了利用GAN“迷惑”自动语音识别(ASR)系统的方法,实现了在音频文件相似度保持在94.6%的情况下,定向攻击超过本公告率高达89.25%。也就是说,当你在浏览视频时听到的正常声音,里面包含了启动你的手机转账功能的可能性不仅存在,而且这个攻击的成功率相当高。
此外,本次CAAD CTF的参赛团队也带来了相关领域的议题分享。由微软应用科学家赵耀和谷歌软件工程师赵宇哲组成的独立研究团队YYZZ在CAAD Village上提出了一种名为“对抗性的平方训练法”,用于增强神经网络分类器的防御能力;来自京东安全研究中心JD-Omega团队的郭文博和Alejandro Cuevas针对对抗样本攻击和防御的技术进行了介绍;来自清华大学TSAIL团队的庞天宇、杜超则分享了去年NIPS挑战赛的夺冠经验;来自克莱姆森大学博士生Joseph Clements也从硬件物理层面,探讨了针对神经网络的新式攻击,还分享了他提出的一种向神经网络上植入后门的方法。
作为首次亮相DEF CON的新成员,GeekPwn CAAD Village带来了一场关于AI对抗攻防最聚焦、最多样、跨领域的AI安全嘉年华,承载了黑客对未来世界的好奇与探索。正如KEEN公司CEO、GeekPwn大赛发起和创办人王琦所说,安全漏洞从来不是因为黑客才存在,恰恰是因为黑客发现而被消灭。GeekPwn一直呼吁白帽子黑客能够提前发现问题、修复问题,避免安全问题的发生。未来,AI将在这些白帽子与研究人员的护航下,走的更远。
据悉,GeekPwn2018嘉年华将于10月24日-25日在中国上海举办,届时,CAAD 对抗样本攻防赛、数据追踪挑战赛、黑客屋挑战赛、机器特工挑战赛、基于漏洞攻破挑战赛、非基于漏洞攻破挑战赛、GAN掉马赛克挑战赛、RFID远距离读写挑战赛将轮番上演,敬请期待。- 中兴通讯积极参与中国移动云电脑数智化建设,聚焦AI与算力网络融合发展
- 浪潮商用机器2024 Power Start精彩上演 乘AI东风再绘生态新蓝图
- AI大模型持续演进引领科技浪潮,苹果/微美全息积极布局激发发展新动力
- 数字人讲师上线!弘成AI制课颠覆传统、效率翻倍
- AI周动态 | 万兴“天幕”公测,支持文生视频60秒+ 商汤日日上新5.0 性能对标GPT-4Turbo
- 中国移动副总经理李慧镝:积极推进算力网络AI注智赋能,推动实现自智网络“三零三自”愿景
- 超擎数智重磅发布擎天、锋锐、元景系列AI服务器,打造人工智能新质生产力强劲引擎
- “AI+元宇宙”赋能,中国移动咪咕助力打造鼓浪屿诗歌节科技“新名片”
- 久其女娲平台2.0全新升级!AI大模型加速,赋能政企数治未来
- 中国移动高同庆:打造大国算网重器,开启AI+时代新篇
- 中国移动杨杰董事长:算力网络点亮AI新时代
- 东软睿驰面向AI智能汽车整体产品解决方案亮相2024北京车展
- AI+CG技术,小米汽车使用权,这家房企的发布会为什么堪称现象级!
- 大模型破局企业AI营销,衔远科技推出MODI摹小仙AI营销大脑
- 创原会·AI创新论坛|探讨百模千态实践,华为云打造算力沃土
- 国雄资本董事长姚尚坤:AI投资热潮或逐渐消退,新能源领域的投资机会巨大