人工智能系统会不会被黑?专家警告黑客入侵AI或将很快成为现实
2018-07-26 11:42:50爱云资讯阅读量:665
一名权威专家警告说,能够破解自动驾驶汽车和其他汽车如何将它们变成杀手的AI系统们即将问世,而且比许多人想象的要快。
网络安全初创公司DeepInstinct的首席执行长卡斯皮(GuyCaspi)在CNBC的播客节目《硅谷之外》(BeyondtheValley)中说,这类如今看来像是科幻小说的攻击,未来几年可能会变成现实。
它引发了人们对自动驾驶汽车和其他技术可能被黑客入侵的担忧,它们将会被变成临时的战斗武器。
卡斯皮说,杀手级汽车所需的许多技术已经存在。
Caspi说,“像谷歌这样的自动驾驶汽车已经在使用深度学习技术,已经可以在现实世界中对障碍物进行攻击,因此在网络领域攻击传统的反恶意软件系统是可能的。”
就在几天前,科技行业的数千名知名人士齐聚一堂,反对开发杀手级机器人。
特斯拉和SpaceX的首席执行官埃隆?马斯克(ElonMusk)长期以来一直直言不讳地谈论人工智能的危险,他加入了谷歌DeepMind的创始人、XPrize基金会(XPrizeFoundation),以及2500多名个人和公司,在本周签署了一项誓言,谴责致命的自主武器。
该行业的专家们誓言不会参与或支持使用此类武器,他们认为,不应该把夺人性命的决定委托给一台机器。
业内专家在周三于斯德哥尔摩举行的2018年国际人工智能联合大会(InternationalJointConferenceonArtificialIntelligence)上发布的承诺中指出,公民、政策制定者和领导人迫切需要区分人工智能的可接受和不可接受用途。
来自90个不同国家的2400多人与160多家公司签署了生命未来研究所组织的承诺书。
它呼吁世界各国政府加大努力,防止致命的自主武器(或称“杀人机器人”)出现在全球军备竞赛中。
专家们警告说,人工智能武器可能会失控,“危及每个国家和个人的安全稳定”。
随着世界各地的军队越来越多地将注意力转向人工智能,致命自主武器系统(法律)的潜力在过去几年受到越来越多的关注。
虽然如今的无人机是由人类控制的,或者被用来对抗其他武器,但人们担心,机器可能很快就会被用来识别和杀死人类。
去年年底发布的一段名为“屠宰场机器人(Slaughterbots)”的宣传视频,设想了杀手机器人的反乌托邦未来会是什么样子。
反对杀人机器人的完整誓言:
人工智能(AI)将在军事系统中扮演越来越重要的角色。
对公民、政策制定者和领导人来说,有一个紧急的机会和必要性来区分人工智能的可接受和不可接受的用途。
在这种情况下,我们签署了一项协议,即不应将人类生命的决定托付给机器。
这种立场有一个道德上的成分,那就是我们不应该让机器做出决定,而其他人——或者没有人——将为此负责。
还有一个强有力的务实论点:致命的自主武器,在没有人为干预的情况下选择和接触目标,将对每个国家和个人造成危险的不稳定。
成千上万的人工智能研究人员一致认为,通过消除夺人性命的风险、归因和困难,致命的自主武器可能成为暴力和压迫的有力工具,尤其是与监视和数据系统相关的武器。
此外,致命的自主武器具有与核武器、化学武器和生物武器截然不同的特点,单一集团的单方面行动很容易引发一场国际社会缺乏技术工具和全球治理体系的军备竞赛。
谴责和防止这种军备竞赛应该是国家和全球安全的高度优先事项。
我们,署名人,呼吁各国政府和政府领导人创造一个具有强有力的国际规范、法规和法律反对致命自主武器的未来。
由于目前没有这些武器,我们选择了高标准:我们既不参与也不支持发展、制造、贸易或使用致命自主武器。
我们要求科技公司和组织以及领导人、政策制定者和其他个人加入我们的承诺。
早在2016年12月,联合国就开始讨论致命自主武器的问题,26个国家已经表示支持禁止这种技术。
新南威尔士大学(UniversityofNewSouthWales)人工智能教授、该项承诺的主要组织者之一沃尔什(TobyWalsh)说,我们不能将谁死谁活的决定交给机器。
“它们没有这样做的道德规范。”
联合国下个月将召开关于杀人机器人的会议,许多业内人士希望让更多国家加入到禁止这些武器的行列中来。
- 腾讯云与腾权科技达成战略合作,推进青少年人工智能教育加速落地
- 东京大学医疗人工智能博士何勇赴重庆普瑞共话眼科AI新未来
- 光明日报专访:华胜天成打造应用场景,让人工智能走进“千行百业”
- 云知声荣登“2024福布斯中国人工智能科技企业TOP 50”榜单
- 从高山奔向大海,智慧眼迈向通用人工智能重要一步
- 人工智能热潮,像需要英伟达NVIDIA一样需要维谛技术Vertiv
- 新质力·新智造 |“2024福布斯中国人工智能科技企业评选”结果正式发布
- 超擎数智重磅发布擎天、锋锐、元景系列AI服务器,打造人工智能新质生产力强劲引擎
- 第四届中央企业熠星创新创意大赛“人工智能”赛道项目对接路演(成都站)圆满举办
- 《2024人工智能与职场研究报告》发布: AI已多领域渗透,就业模式将被重塑
- HID 2024年安防趋势报告:人工智能的应用日益增多
- AI FOR ENGINEERS研讨会:推动人工智能技术赋能工程仿真创新
- 思科重新构想人工智能时代的数据中心与云端安全
- AI赋能出版新质生产力发展 蜜度承办人工智能与出版新质生产力论坛
- 小影科技参编《生成式人工智能数据应用合规指南》团体标准正式发布
- 云天励飞助力深圳高级中学启用人工智能联合实验室,共绘智慧教育新篇章