商汤科技张望：AI治理需要适应技术创新节奏，做到张弛有度

(2022年12月14日,北京) 第三届人工智能合作与治理国际论坛在清华大学(线上)开幕,论坛聚焦构建适宜人工智能健康发展的治理体系,通过技术工具开发实现人工智能可知、可信、可控、可用等议题,汇聚了海内外AI行业各方知名代表。商汤科技副总裁、AI伦理与治理委员会主席张望作为AI治理领域的创新企业代表,受邀出席人工智能产业发展与治理专题论坛,面向国内外的专家学者发表主题演讲“建设安全开放可评估的AI治理生态”,重点分享了商汤科技平衡发展的伦理观,以及在打造负责任且可评估的人工智能方面的实践和探索。

商汤科技副总裁、AI伦理与治理委员会主席张望出席活动并做主题演讲

张望表示,人工智能的快速发展推动数字经济进入了2.0时代,给人类社会创造了巨大发展红利,但也带来了数据、算法、应用等层面的伦理和安全风险。作为领先的人工智能软件公司,商汤科技在坚持原创,推动技术创新和赋能百业的同时,也高度重视人工智能伦理治理,并于2020年1月正式成立“人工智能伦理与治理委员会”,成为业界最先组建人工智能伦理与治理委员会,并将伦理治理工作作为公司战略级方向的科技创新企业之一。经过多年探索,商汤科技已初步建立了人工智能伦理治理体系,实现从理论到实践、从组织到机制、从研发到产品的全生命周期的多维度闭环。

商汤AI伦理治理体系

修炼内功 实现产品全生命周期伦理闭环管理

基于委员会规范化、机制化、系统性的伦理治理实践,商汤创新提出了平衡发展的AI伦理观,明确了“可持续发展、技术可控、以人为本”三项原则,以及发展“负责任且可评估”的人工智能治理的愿景目标。围绕这一目标,商汤建立了覆盖产品全生命周期的风险控制机制、开发了一系列流程工具和技术平台、全面开展商业化模型安全体检、开展公司内部科技伦理宣贯、构建国际化伦理治理生态体系,全面推进人工智能伦理治理实践。

针对人工智能领域面临的数据、算法及应用管理风险,商汤覆盖产品全生命周期的风险控制机制已初步形成了治理闭环。其中,在应对算法风险方面,商汤通过建立“算法定级备案管理与安全评估机制”,成立“算法安全管理工作组”,从技术局限、算法设计、软件缺陷、数据安全、框架安全等多个维度对算法风险进行安全评估。在应对应用管理风险方面,商汤建立了“伦理风险分级分类管理机制”,设立“伦理风险审核小组”,对产品设计、开发、部署、运营的全生命周期实施分阶段、分目标的分级分类管理。

商汤还开发一系列覆盖数据治理、算法测评、模型体检、伦理审查的流程工具和技术平台,建立基于真实场景数据的算法测评体系。其中,在应对数据风险方面,商汤开发了统一的数据治理平台以及规范的数据采集流程,通过自动化标注工具,减少人工接触的数据量,在模型训练的源头降低人类偏见的风险,并且数据标注平台具备访问控制和身份验证功能,仅能由认证的数据标注人员进行访问。商汤还基于真实场景下数据集的算法验证与评测,开发了“算法测评工具”,实现商业化算法的可信与可控,同时设计多元化的测评项目和指标体系对算法进行充分及全面的评测,并积极参与建立行业标准。

面向系统安全需求,商汤自研的模型体检工具能够面向活体识别、图像分类、目标检测等商业化应用,开展对抗安全检测、鲁棒安全检测、后门安全检测,不仅能够支持多种任务类型,还能够开箱即用,提供一键式测评反馈,目前已应用于商汤的大量商业化模型的检测。商汤还深刻认识到发展负责任且可评估人工智能的关键在于在集团层面形成伦理治理的组织文化,由此建立了伦理宣贯的定期宣传和培训机制,每周面向全体员工发送人工智能治理相关重要动态,定期组织研讨会、邀请内外部专家开展伦理治理培训。

共创共治 构建安全、开放、可评估的AI治理生态

为促进治理标准的不断健全和完善,商汤积极推动国际化伦理研究治理生态体系的构建。通过持续出版相关研究成果分享治理实践,商汤希望吸收业界反馈以不断完善治理标准。商汤还与高校、科研院所、政府机构开展常态化交流,今年携手国际金融论坛、新加坡人工智能国际研究院等国内外机构联合发起“亚洲科技促进可持续发展目标联盟”(Tech4SDG),旨在将科技治理伦理研究和治理作为重要事项,与国内外专家学者集思广益,推动AI加快数字经济迭代和可持续发展。

本届论坛期间,张望还受邀出席圆桌讨论,进一步解读了“平衡发展”的AI伦理观的内涵。他表示,人工智能的治理与创新的关系类似汽车的“方向盘”和“刹车片”与“油门”的关系。AI治理不仅如同“方向盘”可以引导技术研发和产品开发走向正确的方向,同时也具备“刹车片”功能,能够及时制止AI创新往错误的方向发展。而“方向盘”和“刹车片”的力度大小又需要配合“油门”的轻重缓急,动态调整,因此,AI治理需要适应技术创新的节奏变化,做到张弛有度。

随着技术与相关应用的持续发展,全球AI伦理治理也将持续保持动态发展。针对新阶段、新趋势、新变化,商汤科技也在积极推进伦理治理从对AI自身的治理探索,延伸到对智能驾驶、元宇宙等商业场景的探索,并希望持续与高校智库、科研院所、行业同仁,共同探讨,群策群力,加快建设安全开放可评估的AI治理生态。