人工智能机器人平台被发现安全漏洞,后果可能会是灾难性的
2024/10/18 09:12AI云资讯162234

(AI云资讯消息)据宾夕法尼亚大学工程学院的研究人员称,他们发现了多个由人工智能控制的机器人平台的先前未被发现的安全漏洞。
电气与系统工程UPS基金会运输教授乔治·帕帕斯(George Pappas)表示,“我们的研究表明,目前将大型语言模型与现实世界结合起来并不足够安全。”
帕帕斯和他的团队开发了一种名为RoboPAIR的算法,这是第一个专门设计用于破解由LLM控制的机器人的算法。与现有针对聊天机器人的即时工程攻击不同,
RoboPAIR是专门为从LLM控制的机器人引发有害的物理行为而设计的,比如波士顿动力公司和TRI正在开发的双足机器人平台。
据报道,RoboPAIR在破解三个流行的机器人研究平台方面取得了100%的成功率:四足机器人平台Unitree Go2、四轮机器人平台Clearpath Robotics Jackal以及用于自动驾驶的Dolphins LLM模拟器。RoboPAIR算法仅用了几天时间就完全获得了对这些系统的访问权限,并开始绕过安全限制。一旦研究人员利用了这些平台,他们就可以诱导这些平台采取危险的行动,例如不减速闯红灯通过马路十字路口。
研究人员表示,“我们的研究结果首次表明,被破解的LLM的风险远不止于文本生成,鉴于破解的机器人在现实世界中完全有可能造成物理伤害。”
目前宾夕法尼亚大学的研究人员正在与平台开发人员合作,以加强系统防止被进一步的入侵,但他们担心说,这些安全问题具有系统性。
宾夕法尼亚大学的研究者维杰·库马尔(Vijay Kumar)表示:“我们的研究结果充分表明,采取安全第一的做法对于实现负责任的创新至关重要。在将具备人工智能的机器人投入现实世界使用之前,我们必须解决其固有的弱点。”
该项研究的第一作者亚历山大·罗比补充说:“实际上,对人工智能系统进行潜在威胁和漏洞的测试(即AI红队)是保护生成型人工智能系统的必要安全实践。因为一旦发现漏洞,就可以对这些系统进行测试甚至训练以修补这些漏洞。”
相关文章
- 李彦宏:人工智能的下一幕是智能组织,将迎来三大机会
- 人工智能赋能传统文化传承:专业楹联AI“小联”在成都发布
- 让算力加速走进校园,人工智能赋能创新人才培养暨产教融合高质量发展研讨会顺利举办
- 芯智融合促创新 硬科技项目集聚宁波奉化—— 第八届全国“创业之芯”大赛奉化人工智能专项赛举办
- AACE2027北京人工智能算力及液冷技术展定档6月北京举办
- 以“人工智能+”激活招标采购新动能——中国移动打造招标采购全流程智能化实践样板
- 港大携手全球网络安全联盟 成立人工智能与网络安全研究所
- 杭州市人工智能开源生态学院首场公开课在每日互动圆满举办
- 润迅参编两项人工智能操作系统国家标准正式发布
- 润尼尔助力高校申报2026年度“人工智能+”虚拟仿真实验教学项目
- “风清”人工智能全球短中期集合天气预报系统通过业务化评审
- 华为终端全场景亮相 2026 人工智能产业大会
- 云从科技参编两项人工智能操作系统国家标准正式发布
- 面壁智能与中电信人工智能签署战略合作协议
- 长三角人工智能发展大会 AI Hangzhou 2027杭州人工智能展览会
- 从制造到智造:动码印章以AI技术斩获2026人工智能创新产品大奖









