京东·看雪CTF大赛圆满落幕,选手直呼AI题目太难
2018-07-24 11:18:35爱云资讯
这次大赛共吸引3万余名白帽子和安全爱好者参加。特别是京东安全的AI题目,将AI系统与CTF相结合,提供了学习人工智能安全的宝贵机会。据了解,近1500人参与AI题目答题,仅2人解出。第一名解出AI题目的选手(ID阳春)介绍:AI题目在CTF比赛中非常少见,偶然看到这道题后非常兴奋,尽管解题过程曲折,以后有AI题目还会积极参与。
深度学习题目首现CTF大赛
这次比赛的AI题目的出题方,京东安全硅谷研发中心团队介绍,通常人工智能也只能做到98%的精确,而那剩余的2%,尤其在安全领域,一旦被人盯上,后果将是致命的。本次题目的核心是在解释深度学习算法的基础上,查找逻辑漏洞,并给深度学习打补丁。
给深度学习打补丁,作为近两年才出现的新兴研究领域,被用在CTF中,在国际上尚属首次。
“AI安全的研究是近两年才兴起的。但现实中AI攻防双方是不平衡的,攻击方处在优势地位。之所以出这个题目,就是想探讨改变防守劣势的状况。”京东首席信息安全专家TonyLee在看雪安全峰会上表示,我们要很好地利用AI,但也要警惕AI系统本身出错,不能完全依赖机器学习。“它也会有缺陷,一旦发生系统性风险,打击将是致命的。”
京东首席信息安全专家TonyLee
因此,如何修正AI的错误便显得尤为重要,但要修正错误首先要找到错误,可即便这一步有时候也是很难的,因为封闭决策的AI并不会说话,不会给你一个合理的解释。这次题目,正是为了让人们更加了解AI,让AI系统“走下神坛”。
培养实战型安全人才
京东安全介绍,此次AICTF的题目其实已经降低了难度,仅要求参赛者更正特定的错误,但是需要考核的内容依然很多。需要参赛选手首先理解深度学习逻辑,找出错误,更正错误的同时不影响深度学习对其他样本的判断。
之所以这样设计,是因为在现实的攻防对抗场景中,大规模修改深度学习模型会耗费大量的时间和精力,这种设计思路,是为了更高效地与黑产对抗。“这不仅仅是一道比赛题目,而是具有现实意义。”显然,希望能够透过比赛,挖掘优秀的种子,培养实战型人才,这才是京东安全举办AICTF比赛的目的。
除了联合举办国内高水平的CTF比赛,京东安全在国外也有培养人才的布局,在硅谷研发中心组建了一支精英团队,从事AI安全、IOT安全、区块链安全等领域技术研发工作,并与包括斯坦福、伯克利、清华在内的国际知名大学建立重要合作,结合京东实际应用场景和数据,在人工智能、IOT等前瞻技术研究上推动产学研项目落地。
相信不久的将来,会有更多像小邓这样的实战型白帽子,踏上守护中国网络安全的道路。- BOE(京东方)ADS Pro专场技术策源地论坛举办 聚焦行业领先技术共研显示新未来
- 京东工业“太璞”数智供应链解决方案持续落地 服务西南工业企业降本增效
- 玲珑轮胎首次“触网”,与京东养车达成战略合作并上线高端产品
- 三河京东影视文化产业协会正式成立
- 旗下奔图与京东达成战略合作 纳思达国内市场布局进一步深化
- 京东工业亮相2024中国工业经济高峰论坛 分享数智供应链助力新型工业化路径
- 来京东数码影音出游季可低价入手爆款音频装备 一键Get全新听觉体验
- 京东加码内容生态 刘强东数字人亮相京东采销直播间
- 5499元起!4月22日京东正式开售HUAWEI Pura 70、Pura 70 Pro+
- 品质之选,钜惠来袭,技嘉AORUS DAY京东品牌会员日活动特惠放价
- 性价比天花板爆款来袭,防晒、出行、宅家速来京东京造“超级品牌日”
- 京东集团与爱丁顿中国达成战略合作 The Macallan麦卡伦京东官方旗舰店盛大启幕
- 华为Pura 70系列斩获100%好评率 京东搜“漂亮系列”入手新机
- 世界读书日加入京东“校猫领阅官” 读书打卡赢取iPhone 15、猫粮等好礼
- BOE(京东方)越南智慧终端二期项目开工 发布Smart GOAL战略开启发展新篇
- 京东先人一步首发联想 YOGA Book 9i AI元启 专享一年免费上门服务