BCS2022技术峰会：百度马杰谈元宇宙如何助力构建AI安全新生态

7月21日，2022北京网络安全大会技术峰会上，百度副总裁马杰详细介绍了在AI安全领域的一些实践和研究，分享了他在元宇宙与AI结合方面的新思考。

马杰表示，伴随数字经济智能经济的发展，以及国际政治经济格局的变化，在全球范围内网络安全形势正在发生一系列深刻的变革，其中以AI为代表的新技术、新应用和新场景快速崛起。一方面，AI与实体经济进一步融合，带给社会很多的便利，而另一方面，AI也刷新了对网络安全的认知、重构了原有的网络安全体系。多方协同共治，已成为共识。

如何构建一个更为安全的智能时代？马杰提到，两年前百度提出了Security、Safety、Privacy的AI安全三大研究维度，并以此为基础，围绕算力算法和数据，进一步把AI安全能力，覆盖到了各种应用场景，由此构建起了一整套体系化的安全框架。例如AI自主框架安全模型攻击检测、数据安全能力以及有隐私保护的机器学习能力等。

面对新变化与新技术，马杰认为，对于安全来说，最大的挑战永远不是该如何去解决问题，而是如何才能更快的更准确的发现问题。相比较之下，人的行为环境变化很大，真实世界中有太多风险无法预判，因此想要穷尽所有的可能不现实，因此提前应对潜在的安全问题成为了每一个安全人必须考虑的问题。

近期，百度在尝试有关自动驾驶安全研究项目——铁马冰河，此项目是一个聚焦于沉浸式高拟真场景，富含AI对抗的元宇宙化安全测试平台，在这个平台上我们构建了大量高拟真的测试场景去捕捉自动驾驶产品感知环节的漏洞，将Fuzzing模糊测试的理念与元宇宙相结合，并进行视觉鲁棒性Al安全对抗性的指标评测，通过虚实结合的仿真测试为自动驾驶安全保驾护航。

目前项目已经可以支持三个方向的自动驾驶安全测评方案，并由此构建了一个从整车在环、硬件在环，再到软件在环的全链条测试验证体系。

他分享到，百度为应对用AI、用云、用元宇宙等的安全问题，构建出了一个数字孪生世界，在平行空间内测试、用最大限度去发现想不到和想得到的安全隐患。

“国产元宇宙产品希壤，则是百度打造出的平行于现实世界的第二时空。”马杰分享到，今年6月，铁马冰河已上线希壤。未来，希壤将不仅创造出近乎仿真的虚拟环境，也将打通一系列数据，并与平行的元宇宙大世界产生互动，未来，个人也将有机会作为真人NPC参加到车辆测试中。此外，在仿真环境的反复测试，也将能够给出更多真实的测试反馈，并纳入到未来铁马冰的设计之中。

马杰提到，处在一个新与旧相互叠加的时代，一方面AI本身的安全性挑战超出了传统的安全边界与框架的认知范畴，同时新升级的问题也在同时出现，因此，将AI与Meta等新技术的结合将为未来安全能力的研究注入新动能。与此同时，百度也在利用Fuzzing进行模糊测试，并将Fuzzing与Meta结合，以便未来挖掘出它的更大价值。

目前，百度先后多次将开源技术、平台等捐献给了开源基金会，希望基于这些开放的研究、开放的代码，可以更好地与合作伙伴一起共同推动产学研各界合作，从而构建起来一个更为开放的生态，未来能够更好地服务于国家网络安全建设，履行企业应由的社会责任。

据了解，百度是目前全球为数不多可以提供AI芯片AI软件架构和AI应用等全栈AI技术的企业之一。今年的第一季度百度的核心研发费用达到了51.34亿元，这占到核心收入的比例已连续六个季度超过了20%，研发投入强度位居中国大型科技互联网公司的前列。