您的位置:首页>聚焦>科技 >内容

亚马逊挑战美国公民自由联盟在面部识别技术和警察方面的研究

2019-12-03 16:28:35来源:
导读周五,亚马逊为其面部识别技术的执法用例辩护,试图消除民权活动人士的担忧。亚马逊网络服务机器学习小组的领导者马特·伍德(MattWood)回应了美国公民自由联盟(AmericanCivilLibertyUnion)和其他倡导团体的批评,发布了一篇博文,要求公司停止向警方出售其重新销售软件。在帖子中,伍德警告说我们的“不要把烤箱扔掉,因为温度可能会被设定成错误,并烧披萨。”伍德表达了对一个实验的怀

周五,亚马逊为其面部识别技术的执法用例辩护,试图消除民权活动人士的担忧。

亚马逊网络服务机器学习小组的领导者马特·伍德(MattWood)回应了美国公民自由联盟(AmericanCivilLibertyUnion)和其他倡导团体的批评,发布了一篇博文,要求公司停止向警方出售其重新销售软件。在帖子中,伍德警告说我们的“不要把烤箱扔掉,因为温度可能会被设定成错误,并烧披萨。”

伍德表达了对一个实验的怀疑,该实验使用rekognition来比较国会成员的头球和25,000mugmet的数据库。根据亚马逊(Amazon)的说法,该测试集重新赢得了与80%置信度的匹配。ACLU表示,Rekognition将国会的28名成员错误地与逮捕照片中的人匹配。

“虚假的比赛不成比例地反映了人们的色彩,包括国会黑人核心小组的六名成员,”在博客文章中说。

在Wood的回应中,他说亚马逊重新创建了ACLU实验,将国会议员的照片与一个由85万张脸组成的数据库进行比较,该数据库具有99%的置信度阈值。亚马逊说,它看到了0%的错误识别率,“尽管我们正在与一个更大的面孔语料库进行比较。”.

“检索的默认置信度阈值为80%,对于广泛的一般使用情况(例如识别对象或社交媒体的名人)是很好的,但是对于公共安全使用情况不是正确的,”.“ACLU所使用的80%置信度阈值太低,无法确保个体的准确识别;我们期望在这种置信度水平上看到假阳性。”.........

亚马逊推荐99%的置信度,用于执法,准确的面部识别是至关重要的。亚马逊发言人告诉GeekWire,该“Rekognition几乎完全用于帮助缩小这一领域,并使人类能够迅速地审查和考虑使用他们的判断(而不是完全自主决定)的选择,在这种情况下,它可以帮助找到失去的儿童、限制人口贩运或防止犯罪。”


亚马逊在其面临危险的面部监视产品的五个阶段,显然被拒绝了。在48小时的时间里,亚马逊已经从自己的系统默认了80%的匹配率,昨天说它应该是95%,然后说今天它应该是99%。在任何时候,亚马逊都没有对他们的面部监视产品对真正的人产生的非常严重的影响承担任何责任。

相反,亚马逊正在试图从重要的公民权利问题上分散注意力。亚马逊应该采取措施,修复受虐待的脸部监视产品可能已经造成的损害,并防止进一步的伤害。亚马逊应该对国会议员作出回应。它应该披露已经购买了这项技术的每一个政府机构。它应该听取各组织及其客户、员工和股东的要求,并停止向政府出售面部监视。亚马逊拒绝解决其技术构成的真正威胁,更不用说采取这些必要的行动了,更多的证据表明了它令人失望的否认状态,以及国会需要迅速采取措施,暂停执行。

ACLU在5月份开始对警方使用Rekognition发出警报,声称这项技术可以放大种族偏见。今年6月,各种民权和移民权利组织的领导人向亚马逊西雅图总部传递了15万个签名,这些签名来自要求亚马逊停止向警方出售Rekognition的人。

免责声明:本文由用户上传,如有侵权请联系删除!

猜你喜欢

最新文章