探路人工智能治理新路径：首个《人工智能产业担当宣言》发布

构建“负责任、可持续”的人工智能生态。

8月3日，在首届全球数字经济大会的“人工智能产业治理论坛”上，首个《人工智能产业担当宣言》（以下简称“宣言”）正式发布。

该宣言由北京智源人工智能研究院、瑞莱智慧联合发起，百度、华为、蚂蚁集团、寒武纪、爱笔科技、第四范式、出门问问等人工智能行业的核心骨干企业、学术研究机构共同参与。围绕人工智能行业的规范与发展，宣言给出了具体的五项倡议。

当前我国人工智能市场规模巨大。根据埃森哲公司的数据显示，半数(49%)的中国人工智能企业，近三年的研发投入超过0.5亿美元。IDC预测，到2023年中国人工智能市场规模将达到979亿美元。

而在行业如火如荼发展的同时，治理与规范也需提上日程。

五项倡议

本次宣言包含五项倡议。

宣言首先强调，人工智能系统的设计、研发、实施和推广应符合可持续发展理念，以促进社会安全和福祉为目标，以尊重人类尊严和权益为前提。人工智能技术应服务于人类社会，符合人类价值观，保障不同种族、年龄、性别、信仰的群体共享人工智能发展成果，避免潜在的偏见和歧视损害特定人群的利益。

其次，在技术能力方面，宣言提出要最大限度确保人工智能系统安全可信，提高鲁棒性及抗干扰性，提高系统抗攻击和自我修复能力，确保人工智能系统安全可靠可控地工作。要增强算法透明性和可解释性，并保持与人工智能各个利益相关方的紧密沟通，最大限度地确保人工智能系统可信。

同时，宣言认为，人工智能技术、产品与服务应保障各方权利和隐私，对用户数据提供充分的安全保障。在收集和使用个人信息时应落实合法正当必要的原则，确保个人的知情、同意、选择、撤销等权利，并对用户数据提供充分的安全保障。

在行业践行方面，宣言也给出了具体实现路径，倡导企业积极参与探索和构建开源开放协作共享机制和平台，建立深度合作伙伴关系，推动良好的产业生态形成。

此外，宣言倡议企业采取成立人工智能治理委员会或工作组、设立伦理研究院岗位或通过外部技术支持等多种方式履行责任，从业者要具有高度社会责任感和自律意识，将人工智能伦理与治理原则、实践贯穿于产品和服务的全生命周期。

作为论坛承办方与宣言核心参与方，北京瑞莱智慧科技有限公司CEO田天表示，让人工智能更好地服务于人类，是行业共同的目标，当整个社会重新审视技术的价值，科技从业者更应感受到科技治理的紧迫性和使命感，应当积极主动开展自治工作，同时开放共享，共举科技担当，将科技力量打造成为人工智能创新治理体系中的核心支撑。

标本兼治

作为引领第四次科技革命的战略性技术，人工智能给社会建设和经济发展带来了重大而深远的影响。人工智能在纯技术层面是价值中立的，但在实际应用中，兼具创造性和破坏性。数据隐私、算法偏见、技术滥用等安全问题正给社会公共治理与产业智能化转型带来严峻挑战。

“人工智能与信息系统在安全性上有着显著区别。信息系统安全性问题主要是软件设计中的漏洞，容易被解决。而第二代人工智能的安全性问题主要来自深度学习算法本身的不安全，更加本质、更难克服。”中国科学院院士、清华大学人工智能研究院名誉院长、瑞莱智慧首席科学家张钹在主旨演讲中表示。

他指出，对人工智能进行治理，防止它被误用、制止它被滥用，一方面需要从法律法规、伦理规范、行业共识等不同层面去“治标”，还应从技术创新层面发力去“治本”。

就此，张钹提出发展第三代人工智能技术，即融合了第一代的知识驱动和第二代的数据驱动的人工智能，利用知识、数据、算法和算力四个要素，建立新的可解释和鲁棒的AI理论与方法，发展安全、可信、可靠和可扩展的AI技术。

中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国教科文组织人工智能伦理特设专家组专家曾毅认为，人工智能要想实现可持续发展，需要在人工智能产品设计、研究、开发、部署、使用全生命周期嵌入伦理与治理，并形成政府、学术界、企业、公民社会、媒体、用户、服务提供商等多方主动共治的良性生态。

曾毅指出，本次宣言的发布对企业具有重要参考作用并具初步的实操建议，将推动政产学研各界加快形成多方共治体系，稳步推进构建“负责任、可持续”的人工智能生态，赋能人类与生态的可持续发展。