IBM与纽约警察局合作开发了一个人工智能系统可以通过竞赛搜索人员

美国公民自由联盟透露亚马逊向当地执法部门提供面部识别技术三个月后，一份新报告显示，IBM与纽约市警察局合作开发了一个系统，允许官员通过肤色，头发搜索人员颜色，性别，年龄和各种面部特征。

Intercept和国家研究所的非营利性调查基金，引用“机密公司文件”以及与参与该项目的工程师的访谈，写道IBM大约10年前开始与纽约曼哈顿下城安全倡议反恐中心合作开发分析平台，早些时候在芝加哥市进行的实验。当时，IBM是微软补贴Vexcel的分包商。

使用纽约警察局提供的大约50台摄像机拍摄的“数千张”照片，其计算机视觉系统从16,000个点开始学习识别服装颜色和其他身体特征，此外还有潜在的威胁，如无人值守的包裹，进入禁区的人和汽车加快交通流量。

据报道，NYPD官员早在2012年就对该软件进行了测试，但发言人Peter Donald告诉Intercept，其过滤工具仅用于“评估目的”，并指示官员排除搜索中的肤色。唐纳德表示，各种“当选领导人和利益相关者”都被告知该部门的努力，但细节并未公开披露。

唐纳德还证实，该部门最终选择不部署该计划，并且明确拒绝了可以根据种族搜索人员的改进版本。(Intercept指出，IBM的智能视频分析2.0于2017年发布，它提供了一种人体摄像头监控功能，可以通过“亚洲”，“黑色”和“白色”等标签自动标记人物。

“不时向IBM提供视频，以确保他们开发的产品能够在拥挤的纽约市区环境中工作，并帮助我们保护城市。NYPD与IBM达成的协议中没有任何内容禁止与IBM共享数据以进行系统开发。此外，与NYPD签订合同协议的所有供应商都绝对要求在协议期限内，协议完成后以及协议终止时保持NYPD提供的所有数据的机密性。

“IBM致力于负责任地推进和使用新技术，并因其促进多样性和包容性的政策而受到认可，”IBM在向VentureBeat提供的一份声明中写道。“这些价值就是为什么我们向其他公司公开提供超过一百万张图片的注释数据集，以帮助解决面部分析中最大的问题之一 - 缺乏训练AI系统的各种数据。”

争议

面部识别系统最近受到越来越严格的审查，并且有充分的理由。

在7月份，美国公民自由联盟(ACLU)证明亚马逊的认可可以在某种程度上进行校准时，将28名国会议员误认为是罪犯。 同时，2012年的一项 研究表明，供应商Cognitec的面部算法 对非洲裔美国人的表现比白种人高5%至10%。最近，据透露，伦敦大都会警察部署的系统每次击中都会产生多达 49个假匹配。

美国最大的车身摄像头供应商之一Axon的首席执行官里克史密斯今年早些时候曾 引述说 面部识别对于执法应用来说还不够准确。

他说：“[他们不是]他们需要在面部识别中做出运营决定。” “在我们认为您不希望过早出现并且最终导致技术故障并带来灾难性后果的情况下......或者......有一些无意识的使用案例，在长期使用该条款时，这种情况最终无法公开。技术。”

在8月的一篇博客文章中，AWS总经理马特·伍德写道，“新技术能力始终存在并将永远存在风险”，组织要“负责任地行事”。在今天的声明中，IBM指出它是“最先采用一系列信任和透明度的新公司之一的公司之一，包括人工智能系统。”

然而，批评者 - 包括 微软总裁布拉德史密斯，他在7月呼吁立法者调查面部检测算法并制定指导其使用的政策 - 认为他们的努力还远远不够。

“想象一下，政府会在未经您许可或不知情的情况下跟踪您过去一个月所走过的所有地方。想象一下，每个参加政治集会的人都有一个数据库，这个集会构成了言论自由的本质。想象一下，使用面部识别的购物中心商店可以相互分享您浏览的每个货架和您购买的产品的信息，而无需先询问您。长期以来，这一直是科幻小说和流行电影的内容 - 如“ 少数派报告”， “国家的敌人”，甚至是 1984年 - 但现在它已经濒临变为可能，“史密斯写道。