让伦理成为AI研发的组成部分

云天励飞莫磊博士。

昨天，美国科技巨头脸书（Facebook）宣布准备认领因违反隐私承诺而遭受的50亿美元罚单了，这将信息时代的伦理问题再次拉到聚光灯下。

人工智能革命性技术深刻改变人类社会和生活方式，也引发许多伦理道德方面的问题。目前，人工智能界制订并应用相关伦理规范的能力，远不及技术创新本身的发展速度。但可喜的是，全世界包括中国都已意识到建设完整的人工智能伦理体系的重要性。昨天，深圳AI领域明星企业云天励飞的战略合作高级经理莫磊博士在接受本报记者专访时认为，应联合企业、产业联盟及各界力量，在强化行业自律的同时持续推动人工智能伦理、规范方面的学术研究与成果转化应用，从而进一步促进人工智能技术的繁荣与发展。

人工智能给人类带来挑战

实际上，对人工智能与人类之间伦理关系的研究，因近年来人工智能技术的不断突破而屡屡进入公众聚焦点。如今，机器不再是单纯的工具，机器有时甚至代替人进行决策，如何处理人和机器之间的关系，这个问题就变得非常重要和紧迫。

莫磊表示，人工智能伦理一直是业内重点关注的问题，去年史上最严数据保护法——欧盟《通用数据保护条例》(GDPR)的颁布，进一步引爆了公众以及行业对于AI伦理的关注。“对个人数据隐私保护迈出一小步，却是人工智能伦理研究发展的一大步，这部法规引起全球社会各界的极大关注。”

而美国联邦贸易委员会向Facebook开出50亿美元的巨额罚单，据称是与一年前Facebook一次大规模的数据泄密事件有关。

莫磊说，近期一项针对美国公民的调研结果显示，美国公民对人工智能的担忧主要在以下几个方面：AI会不会侵犯个人隐私、散播虚假言论、攻击政府或企业等。这些担忧也促使各国加快人工智能相关法律、伦理、社会问题的研究。在国内，学界、业界和各方力量达成基本共识：加强人工智能伦理、规范方面的学术研究与成果转化应用，并不断强化行业自律。

今年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则》。该《治理原则》突出了“发展负责任的人工智能”这一主题，强调和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。今年5月，北大、清华、中科院等一批高校、科研院所和产业联盟发布共识，提倡人工智能技术研发要对其潜在伦理风险与隐患负责，提升技术水平控制各种风险，最大范围共享人工智能发展成果。

伦理研究应是AI研发的组成部分

“为降低人工智能发展过程中可能存在的技术风险和伦理隐患，越来越多的国内外公司设立伦理/道德委员会或类似机构，以应对未来可能面临的挑战。”莫磊告诉记者，目前国内外很多人工智能企业都设有这种机构，将来不仅是技术人员，还有社会学家、伦理学家甚至公众都应参与到人工智能伦理研讨之中。“我们公司的信息安全中心也有伦理委员会的职能，为公司在数据安全、隐私保护等方面提供监督与保障。”

深圳的“智能行人闯红灯取证系统”部署在一些交通路口已两年有余，这一做法显现出较高效率，行人闯红灯违法行为大幅下降，但在早期也引起了关于隐私的担忧。

在行人闯红灯抓拍技术背后的“大咖”，正是云天励飞。莫磊表示，刷脸执法只是一种取证手段，有专门的管理系统，并不是将违法信息向社会公布，不会公布交通违法者的姓名、身份证号等关键信息，也不提供查询，只有在当事人有异议的情况下才能查看相关违法信息。

公众的高度关注，也让云天励飞一直在数据安全和隐私保护等方面绷紧弦。“在任何细分行业，这根弦都得绷紧。”莫磊表示，从人的维度，不论是企业管理者、技术开发者，还是使用者，都需要伦理监督；从数据的产生、存储、传输和使用环节，需要全面、细致监督数据收集、处理、使用全过程的方方面面。从技术层面来讲，AI本身是一个黑匣子，现在起码基于深度学习的AI它是黑匣子，AI的可解释性研究是当下热门课题之一，这有助于AI使用的公正性与公平性。莫磊说，公众有知情权，建议相关的信息收集应该让公民事先知情并征得同意。“要让伦理成为人工智能研究与发展的根本组成部分。”