微软CEO纳德拉:面部识别技术对社会危害大
2019-01-18 16:41:04爱云资讯
微软首席执行官萨提亚-纳德拉(Satya Nadella)认为,如果一些技术被滥用,那么它们就会对社会形成很大的危害,因此政府应该对它们进行监管。他列出的第一个例子就是面部识别技术。
周一,在该公司总部的媒体邀请会议上,他对满屋子的记者发表了自己的看法。一名记者问他如何看待科技行业即将面临的监管问题。
“我们认为监管问题将会变得越来越复杂。”他补充说。在某些情况下,微软实际上是在呼吁政府采取新的监管措施。
“就拿面部识别技术这个概念来说,它现在太可怕了。这绝对是一场彻头彻尾的竞争。”他说,“这一切都是以竞争的名义进行的。任何赢得交易的人都能做任何事。这对我们这个行业或整个社会都不会有好的结果。更好的做法是制定一些我们大家都可以遵守的规则,这样我们才能保护真正重要的东西。”
温文尔雅的纳德拉并没有点名道姓地批评谁。但他发表这番言论的背景是在亚马逊的Rekognition面部识别服务正饱受诟病。
今年5月,美国公民自由联盟(ACLU)披露,亚马逊向政府机构提供了Rekognition面部识别服务,让政府机构来监督公民。它还写了一封公开信,要求该公司停止这样做。为了证明这项技术对公民自由的危害,美国公民自由联盟在7月份报告称,Rekognition面部识别服务错误地将28名美国国会议员认定为曾被逮捕的罪犯。
去年夏季,数百名亚马逊员工向该公司请愿,要求停止销售Rekognition面部识别服务。就在本周,由五名亚马逊股东组成的联盟提交了一份决议,呼吁亚马逊停止向政府机构出售Rekognition。这些股东总共拥有13.2亿美元的亚马逊股票。
早在2018年7月份,在人们针对亚马逊的批评达到顶峰时,微软首次呼吁对面部识别技术进行监管。
去年12月,微软首席律师布拉德-史密斯(Brad Smith)在一篇博客文章中再次呼吁监管面部识别技术。他指出,面部识别技术在三个方面非常危险:侵犯人们的隐私,政府以牺牲“民主自由”为代价进行大规模监控,以及科技行业中的种族偏见带来的风险。
在辨别有色人种时,面部识别技术的效果非常糟糕,经常认错人。这种误认可能产生非常严重的后果,特别是在执法部门使用这项技术的时候。
有趣的是,亚马逊不是第一家捣鼓这项技术的公司。Facebook也在这项技术上引起了争议,比如在欧盟GDPR隐私法规生效后,该公司试图在欧洲重新引入这项技术。
而且,早在亚马逊成为焦点之前,微软在面部识别技术问题上也曾遭到批评。
一年前,《纽约时报》报道了乔伊-布兰韦尼(Joy Buolamwini)在麻省理工学院媒体实验室所做的一项研究。她发现三个领先的人脸识别系统——微软、IBM和中国的旷视科技的人脸识别系统——在识别非白人面孔方面表现得很糟糕。微软对深色皮肤女性的错误率为21%(而另外两者的错误率为35%)。
周一,纳德拉承认,每当该公司受到严肃的批评时,它都会认真对待。
事实上,史密斯在去年12月的一篇博客文章中第二次呼吁对这项技术进行监管。就在不久之前,美国国家标准研究所(National Institute Of Standard)公布了对这项技术的持续测试结果。测试发现,微软的面部识别技术的水平有了很大提高。
与此同时,提供面部识别技术的公司数量也在激增。在去年9月的最后一次测试中,美国国家标准研究所测试了来自全球39个开发机构的面部识别算法。
- 钛动科技成为微软广告官方代理商,数字媒体覆盖能力再飞跃
- Check Point 与微软展开新合作,Microsoft Azure OpenAI 与 Infinity AI Copilot强强联合
- AI大模型市场商业价值涌现,Google/微软/微美全息创投新机遇完善基建
- AIGC应用爆发式增长,微软/微美全息加入竞赛布局AI办公数字化新蓝海
- AI已成芯片行业复苏关键动力,Meta/微软/微美全息等全力押注进入成长快车道
- 微软携手小米:开启人工智能时代创新
- TCL空调发布小蓝翼P7,联手海思、微软定义新一代空调
- 2023世界互联网大会乌镇峰会:微软新必应特邀登场
- 创投变辩辨:苹果VS微软,谁决定MR的未来?
- 微软全面展望大模型语言技术,微美全息引领自然语言人机交互突破奋进AI时代
- 微软财报大超预期AI成主要驱动力,微美全息把握趋势加速AIGC技术商业化
- 数字人直播热潮涌动,微软/微美全息点燃热情共探AI+数字人发展范式
- 微软全球资深副总裁张祺:聚焦AI大航海时代新契机、新模式、新动能
- 假如“微软断供”,国产操作系统统信UOS能顶上吗?
- 奥比中光获微软授权Azure Kinect技术产品线,携手赋能全球开发者
- 金山办公旗下WPS已上线的单元格插入图片功能,微软刚开启测试