阿里首席风险官预判:数字经济新基建安全将依靠AI实现

大屏幕上显示了两个与真人无异的俊男美女的脸，随后，一个身着红衣的虚拟女模特在视频中缓缓走来……12月5日，在阿里安全与清华大学联合举办的AI与安全研讨会上，近日正式在阿里平台上线的首款AI模特塔玑首次以视频形态在清华、中科院、西安电子科技大学、北京交通大学、西安交通大学等一众国内顶尖AI安全专家面前现"真容"。

图示：AI模特塔玑实拍图生成技术

塔玑中包含的阿里新一代安全架构核心算法技术由阿里自主研发，可形成全世界独一无二的虚拟人脸，该算法将服装平铺图转化成3D模型"穿"在模特身上，一天之内商家就能拿到图上新，给服饰商家提供了模特静态图、短视频和直播解决方案，为商家降低成本，从而降低盗图风险，真正实现用技术帮助中小商家，颠覆了知识产权保护的传统模式。

据悉，阿里安全与北京服装学院正在就AI模特项目中模特设计和行为动作建模等课题进行合作，而这仅仅只是AI技术从研究走向安全风控实际应用的项目之一。在本次AI与安全研讨会上，国内顶尖AI专家对AI在多媒体智能、自动驾驶、复杂电商环境治理等多个领域的前沿技术与优秀应用进行了分享。

阿里巴巴集团首席风险官郑俊芳判断："安全成为数字经济时代的基建，安全基建又必须靠AI来实现。"在繁多数据类型带来快速识别的巨大挑战下，如何对复杂内容和细微差别进行精准识别?如何依靠少量样本进行识别?如何及时应对不断使用新技术的专业黑灰产攻击?郑俊芳指出，为解决这些技术难题，阿里愿和学术界合作共赢，探索更智能的安全，打造更安全的AI。

图示：阿里巴巴集团首席风险官郑俊芳

AI面临安全问题是共识

中国科学院院士、清华大学人工智能研究院院长张钹认为，人工智能将先在交通、医疗、金融、智能制造等领域产生革命性的变化。从长远来看，AI会根本性改变这些领域，从现实来看，还有许多困难要克服。

图示：中国科学院院士、清华大学人工智能研究院院长张钹

现在，已有厂商在国内部分地区试点自动驾驶出租车服务，不过整体来看，现在所有的自动驾驶产品或者即将上市的产品都处于L4及以下。西安交通大学人工智能与机器人研究所教授薛建儒认为，无人驾驶的安全可信面临的挑战性在于，无人驾驶面临动态决策，它固有的复杂性、不确定性和歧义性都是一些开放式问题。

薛建儒说："当前我们的无人驾驶在应对复杂场景和人类驾驶员相比在适应性上存在很大差距。在如何引入人类的驾驶知识，把人类的直觉推理和演绎推理这样的认知机理放到驾驶模型里，提高当前模型表征能力，我们还有所欠缺。"

张钹表示，AI面临着算法安全的根本原因在于，神经网络只是进行函数映射，缺乏对任务的理解，算法的鲁棒性差，具体表现在"一是测试集的鲁棒性差，当测试集和训练数据有差别，推广能力就会变差。二是对噪声的鲁棒性很差，导致AI算法容易被滥用、攻击、误用。"

应用成效显著 安全能力提升需开放合作

不过，正如郑俊芳所说，安全基建必须靠AI来实现，安全的AI正在给多个领域带来变化。

清华大学计算机系副主任朱文武介绍了其在多媒体与AI上的研究，希望人工智能给多媒体提供研究的新思想和范式，比如原来的语义处理通过特征提取进行分析，语义学习给多媒体提供了语义和多模态信息，这能帮助机器学习做得更好。多媒体和AI呈互相促进，互相帮助、互相指导的态势发展。

据公开报道，12月5日，财政部原副部长朱光耀表示，在2020年的新年伊始突如其来的新冠病毒疫情对世界经济造成了巨大的冲击。新经济、数字经济的发展，在这种特殊危机的情况下得到了突出的运用，而且危机也使数字经济有了进一步发展上升的空间。

数字经济对疫情后经济恢复发展的重要性不言而喻。

阿里安全资深算法专家薛晖介绍，现在淘宝的GMV已恢复到疫情前的水平，甚至比2019年同期还增长了20%。一边是不断增长的体量，一边是与日俱增的电商平台复杂性，这对阿里的治理水平提出了更高的要求。

薛晖给出了两个极具震撼力的数字。近五年来，每万笔交易的一次侵权商品量下降将近2/3。近三年来，阿里平台通过输出线索协助公安打击线下制售假窝点，拘捕嫌疑人近万名，累计涉案金额超过200亿元。

这两个数字背后，是阿里建立的一套基于人工智能的复杂电商环境治理体系在发挥巨大作用。这套治理体系对于商品内容非结构化数据的理解和分析能力，包含了大量自然语言处理、计算机视觉、各种多模态、跨模态感知类技术;这套体系能精准地对电商平台上的各种非法和异常行为做推理和认知。

同时，电商环境又是充满利益的，算法专家不仅要保障上述体系的两大能力高速发挥其作用，还要十分关注电商关键节点模型自身的安全性，以保证模型不会出现漏洞，不被黑产所利用，保证模型的鲁棒性。

阿里在安全领域投入非常大，技术人员在安全团队中占比超过50%。郑俊芳表示："这几年我们大踏步往前走，和顶级的团队在不同领域进行合作，合作背后就是因为我们遇到了很多挑战，所以说，安全必须要靠坚定的投入和更开放的合作，才能解决今天面临的复杂挑战。"

图示：阿里安全首席架构师钱磊(右一)与清华大学教授朱军(左一)为安全AI挑战者计划获奖者颁奖

在AI与安全研讨会上，阿里安全与清华大学还为其合作的安全AI挑战者计划三期获奖选手进行了颁奖，再次力证校企联合，培养真正有安全实战能力的安全基建人才，抵御AI业态未来安全风险的决心。

图示：由阿里安全与清华大学联合举办的AI与安全研讨会