阿里安全AI亮相人工智能顶会 联合全球专家呼吁关注AI安全

2019-08-15 17:23:58爱云资讯

凭借在知产保护领域的成功实践,刚拿到国家三部委颁发的「创新之星」大奖,阿里安全 AI 又现身国际顶会。近日,全球人工智能领域最权威的学术会议 IJCAI(国际人工智能联合会议,International Joint Conference on Artificial Intelligence)在澳门召开,阿里安全图灵实验室邀约南洋理工大学、清华大学、中科大等国内外专家共议安全 AI 话题,接收哈佛等全球高校、研究机构的几十余篇相关论文,呼吁各界关注 AI 自身的安全性问题。

阿里巴巴集团在 IJCAI现场的展台,安全 AI 成为众多参会人员关心的话题

IJCAI 自 1969 年开始举办,至今已有 50 年。作为国际人工智能领域顶尖的学术会议,吸引了来自全球各大互联网公司、研究机构、高校等顶尖人工智能专家参会。「大会已经从学术走向社会议题,深度探讨不容忽视的问题,比如数据保护、用户隐私等。」IJCAI 理事会主席杨强表示。

阿里安全与 IJCAI 联合举办的全球人工智能对抗算法竞赛也契合大会的「社会议题」方向。这次大赛于 8 月 9 日在澳门正式落幕,吸引了全球 24 个国家和地区的 2518 支队伍、2985 名选手参赛,覆盖学界和业界,首次直接使用电商商品图像作为识别对象。

阿里安全图灵实验室负责人薛晖(右一)为 IJCAI-19人工智能算法大赛冠军团队颁奖

据 MarkersandMarkets 的最新报告预测,全球人工智能市场的规模将从 2018 年的 214.6 亿美元增长至 2025 年的 1906.1 亿美元,年复合增长率达 36.63%。其中,中美两国人工智能企业增长迅速,交替成为全球在技术投入、新增企业数量上最多的国家,并在无人机、无人车、智能语音、智能家居、互联网风控等领域持续深入应用,安全问题随之而来。

「比如,去年 3 月 Uber 无人测试车发生首起致人死亡事件,特斯拉也在全网撤销无人驾驶宣传字样。」中国科学技术大学网络空间安全学院教授张卫明在 8 月 10 日的 IJCAI 研讨会上表示,数据驱动的 AI 模型需要考虑数据不被投毒、污染,保证模型的安全和有效性,才能让 AI 更好地落地,「阿里通过比赛推动学界、业界对 AI 安全的关注,我认为,安全 AI 在很长时间会成为行业发展的方向。」

阿里安全图灵实验室负责人薛晖此前在接受采访时曾断言,安全会成为人工智能发展最大的挑战,而阿里提出的安全 AI 在模型韧性、多模态、小样本学习等方面具有更强的攻防属性以及进化能力,会成为网络安全问题的核心解法。在 IJCAI 现场,这一观点也成为多位高校学者、研究人员和企业代表的共识。

南洋理工大学副校长蓝钦扬在阿里安全举办的 IJCAI 研讨会现场发言

南洋理工大学副校长蓝钦扬在研讨会现场表示,阿里提出安全 AI 的概念具有前瞻性,未来将通过博士和博士后等合作计划,与阿里一起培养更多顶尖的安全 AI 人才。此外,来自浙江大学、清华大学、中科院大学等多名学者则分别从 AI 的对抗性研究路线图、对抗样本攻击原理等方面去论证 AI 自身安全性存在的各类问题。

「过去五年,我一直在研究从启发式防御失败到更强的自适应对抗性攻击,再到模型的可解释性、可靠性的工作,」浙江大学教授、网络空间安全研究中心主任任奎表示,学术界和工业界需进一步努力,以促进更安全和更强大的深度学习算法的发展。

阿里安全图灵实验室高级算法专家华棠表示,此次研讨会也吸引了哈佛大学、西交利物浦大学、香港中文大学等全球学者的投稿和分享,内容包括游戏模拟攻击者窃取企业敏感信息、移动支付非法账户识别等各类问题,「从学界到业界,都在为 AI 安全性寻找解决方案。」

为了抵御未来 AI 面临的安全风险,近日,阿里安全还宣布联合清华大学,以对抗样本为核心发起安全 AI 挑战者计划。通过结合内容安全等场景,阿里安全从文字、图像、视频、声音等多个领域针对对抗样本赏金召集「挑战者」,打磨安全的机器学习模型,共同建立挑战者的小社区。

呼吁产生共识,共识推动进步。据了解,此次 IJCAI 大会现场,AI 安全也成为备受关注的议题,来自谷歌、腾讯、微众银行等企业的从业者均从不同视角进行了相关探讨,共同推动人工智能产业的安全性提升。

相关文章
热门文章
头条文章
重点文章
推荐文章
热点文章
关于我们|联系我们|免责声明|会展频道
冀ICP备2022007386号-1 冀公网安备 13108202000871号 爱云资讯 Copyright©2018-2023