亚马逊人脸识别技术再遭滑铁卢:从120名官员中认出了26名罪犯
2019-08-21 16:33

亚马逊人脸识别技术再遭滑铁卢:从120名官员中认出了26名罪犯

本文来自微信公众号:果壳(ID:Guokr42),作者:芸薹,编辑:Luna,题图来自:东方IC,2018年6月18日,美国西雅图,人们在亚马逊总部请愿。在美国公民自由联盟(即American Civil Liberties Union,以下简称ACLU)的带领之下,超过24个民权组织对亚马逊提出了质疑,要求它停止向执法机构销售这一名为Rekognition的图像识别系统。


“刷脸解锁手机”“刷脸购物”“刷脸验证身份办理银行卡”……我们与生俱来的“脸”除了与颜值形象挂钩,也在逐渐演变成我们身份的唯一识别标识,逐渐深入我们的日常生活,为我们提供了极大的便利。


但当人脸识别遇上现实,也不乏跪地躺枪,惨不忍睹的时候,比如今天我们的主角——来自亚马逊的Rekognition。


Rekognition是亚马逊研发的一款图像分析软件。亚马逊已经将这项技术销售给了美国的几个执法机构,比如说华盛顿县治安官办公室,旨在利用软件的面部识别算法实时自动识别和跟踪犯罪嫌疑人;亚马逊也在争取将能把这项技术卖给美国政府。


人脸识别并不是Rekognition的唯一功能丨Rokognition官网


这是什么神奇算法,“看”一眼就能知道对方是不是犯罪嫌疑人?


Rekognition需要被辨识的脸部照片作为基础数据库,目前基础数据库的建设主要基于亚马逊的云服务AWS。当摄像头捕捉到现实中的人脸或用户上传对比照片后,Rekognition会自动将它们与基础数据库中的照片进行对比;如果相似度足够高,那么Rekognition就认为这个人属于基础数据库中的某个人。在软件中,将这个相似度称作“可信度阈值”,它的默认值为80%。


人脸识别技术 | James Martin/CNET


利用先进科技,让犯罪嫌疑人无处逃遁,想象一下就觉得似乎世界变得更美好了一点。然而,这种想法也遭到了不少人的反对,比如一直和Rekognition唱反调的美国公民自由联盟(American Civil Liberties Union,ACLU,一个非盈利组织)


8月14日,ACLU对它进行了一项测试,Rekognition的表现却令人大跌眼镜:基于25000人的犯罪嫌疑人基础数据库,ACLU上传了120张立法者的照片让Rekognition一试身手,结果是,Rekognition用误判26名立法者为犯罪嫌疑人的结果,证明了自己身手不佳。


实际上,这并不是Rekognition第一次“犯错误”,早在2018年,它就已经错误地将28名国会议员识别为罪犯,万万没想到,经过1年的努力,它义无反顾地在将政府官员识别为罪犯的路上越走越远……


2018年Rekognition识别错误的28名国会议员 | ACLU官方Twitter


不得不说,这软件给我们提供了一份充满了戏剧性的“答卷”,然而作为承担身份识别重要角色的软件,这样的结果无法不让人对其严谨性和严肃性产生质疑。


旧金山议员丁右立(Phil Ting)提议禁止使用这个软件系统,并且表示这样的错误识别结果将会给人们带来巨大的负面影响,当你被人认为是一个罪犯, “可能会影响你找工作的能力、影响你买房租房的能力。”这远不是一项技术犯了一个可笑的错误那么简单,而是确确实实会有活生生的人们,受到这一错误带来的实际影响。


那么,面对再一次的重大失误,作为软件开发商亚马逊对此作何解释?福布斯这样报道:“当使用面部识别来判断调查中的嫌疑人时,执法部门应该使用推荐的99%的可信度阈值,并且仅将这些预测作为调查的一个要素(而非唯一决定因素)”。


ACLU表示这种解释无法让人信服。在测试中使用的80%的可信度阈值,实际上是软件提供的默认设置。既然99%的可信度阈值才是推荐使用值,为什么亚马逊不将默认可信度阈值设置为99%呢?然而对此,亚马逊并未给出答复。


ACLU成员Matt Cagle做出回应丨ACLU


实际上,这款软件在整个美国进行了推广和试用,除了在识别准确度方面存在问题,在各地的试用中还暴露出了其他一系列问题。比如,由于准确度引发的,在有色人种聚居地识别错误可能造成种族歧视问题,引发警民冲突;在佛罗里达州奥兰多试用期间,还出现网络带宽问题导致软件无法良好运行等问题,很显然,Rekognition并没有为真正能够推广和应用做好准备。另外,人脸识别技术的滥用,是不是也在一定程度上侵犯了公民的隐私和自由?


未来,Rekognition将会走向何方,目前我们无法做出判断。


作为AWS的重要应用软件,除了卖给政府部门,这款支持包括人脸识别在内的图像分析技术也会通过AWS出售给相关大数据公司,亚马逊7月27日发布的2018年财报中显示,云服务第二季度净销售额为61.05亿美元,比上年同期的41.00亿美元增长49%;运营利润为16.42亿美元,上年同期为9.16亿美元。


面临问题重重、形势严峻的推广应用现实,以及巨大利润的诱惑,亚马逊最终将会如何处理此事呢?


科技进步、人工智能给我们的生活带来的方便和快捷不言而喻,但是科技作为工具,能否使用的好最终还是掌握在人的手里,说白了,AI只是个孩子,要学的还很多,而关键在于我们人类“家长”怎么去教育和引导。


终结者 | © Paramount / Skydance


参考文献


[1]https://hackernoon.com/a-quick-introduction-to-aws-rekognition-8257d4777198

[2]https://www.orlandoweekly.com/Blogs/archives/2019/07/18/orlando-cancels-amazon-rekognition-capping-15-months-of-glitches-and-controversy

[3]https://gizmodo.com/amazons-face-recognition-tech-once-again-pegs-politicia-1837215790

[4]https://www.vice.com/en_us/article/ne8wa8/amazons-facial-recognition-misidentified-1-in-5-california-lawmakers-as-criminals

[5]https://www.forbes.com/sites/monicamelton/2019/08/13/amazon-rekognition-falsely-matches-26-lawmakers-to-mugshots-as-california-bill-to-block-moves-forward/#4c323d0c7350

[6]https://www.dailymail.co.uk/news/article-5995149/Amazons-face-ID-tool-mismatched-28-members-Congress-mugshots-ACLU.html

[7]https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/

[8]https://www.cnet.com/news/amazons-rekognition-falsely-matched-lawmakers-to-criminals-again-aclu-says/


本文来自微信公众号:果壳(ID:Guokr42),作者:芸薹,编辑:Luna

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定

读了这篇文章的人还读了...

回顶部
收藏
评论5
点赞5