时代周刊本篇文章1148字,读完约3分钟

联邦研究人员在一项广泛的政府研究中,在近200种面部识别算法中发现了种族偏见的广泛证据,突显了该技术的缺陷和滥用的可能性。

研究发现,在美国政府的测试中,少数族裔比白人更有可能被误认,这引起了人们对该软件公正性的新关注,尽管市,州和联邦各级越来越多的政府机构大声疾呼使用该软件。
该报告背后的研究人员之一帕特里克·格罗瑟(Patrick Grother)在一份新闻稿中说,“我们研究的大多数人脸识别算法中,基于种族的偏见是显而易见的。与白人相比,某些算法将两个不同的非白人混淆的可能性要高100倍。


商务部下属的美国国家标准与技术研究院(National Institute for Standards and Technology)周四发布了该报告,称亚洲人,黑人和美洲原住民尤其容易被误认。
在另一项测试中,在联邦调查局维护的大型面部照片数据库中,黑人妇女比其他群体更容易被错误识别-从而可以窥见执法人员如何滥用这项技术。
结果使决策者,隐私团体和刑事司法活动家越来越警惕,该技术在机场,警察部门和边境越来越普遍。
美国公民自由联盟高级政策分析师杰伊·斯坦利说:“甚至政府科学家现在都在确认这种监视技术存在缺陷和偏见。” “一场错误的比赛可能会导致错过航班,漫长的审讯,监视名单的安排,紧张的警察相遇,错误的逮捕或更严重的后果。”
NIST的研究涵盖了来自英特尔,微软和东芝等近100个供应商的工具,以及腾讯和滴滴出行等中国知名企业。
向警察部门出售面部识别软件的亚马逊没有参加。NIST告诉CNN Business,提交的内容是自愿的,亚马逊告知该机构,它认为其软件与测试不兼容。
少数美国城市因禁止使用这项技术而迎来了面部识别技术的兴起。该列表包括加利福尼亚州的奥克兰市和马萨诸塞州的萨默维尔市,它们已禁止城市官员使用该软件。
俄勒冈州波特兰市可以走得更远:目前,它正在权衡全面禁止面部识别的禁令,这不仅是针对地方政府的,也是针对私人公司的。
在民主党总统竞选活动中,参议员伯尼·桑德斯发誓要禁止在警务中使用面部识别软件,这是其刑事司法改革平台的一部分。与此同时,参议员伊丽莎白·沃伦(Elizabeth Warren)提出了对这项技术进行管制的建议。
限制面部识别的努力可能非常复杂。例如,旧金山不得不在其法律中制造漏洞,以便政府官员可以继续使用Apple的Face ID安全功能来解锁其iPhone。
即使政府中的一些人拒绝面部识别,其他官员仍在努力扩大其使用范围。在全国范围内,许多警察部门已注册使用亚马逊的面部识别服务Rekognition来识别犯罪嫌疑人。
本月初,国土安全部提议要求美国公民和绿卡持有人在进入或离开该国之前接受面部识别检查。在媒体报道和公众强烈反对之后,官员们放弃了该计划。