联邦研究发现面部识别技术存在种族和性别偏见

美国一家机构的一项研究发现，面部识别技术往往根据一个人的种族、性别或年龄表现不均匀。

但周四公布的这份细致入微的报告不太可能消除批评者的担忧，他们担心在面部扫描应用程序中存在偏见，执法部门、机场和各种企业越来越多地选择这些应用程序。

美国国家标准与技术研究所（Institute of Standards and Technology）近二十年来一直在研究面部识别，但这是它首次对面部扫描算法如何能够识别人的人口统计学差异进行调查。

这项研究的部分原因是立法者和隐私倡导者越来越担心商业人脸识别软件中的偏见会在刑事司法系统和其他地方根深蒂固的种族歧视。

这份报告警告说，以前的研究“不完整”，指称偏颇的面部识别令公众震惊，但也证实了类似的趋势，表明妇女、最年轻和最年长的人以及某些种族群体的错误率较高，这取决于使用哪种图像数据库或软件。

研究生物识别技术的NIST研究小组经理克雷格·沃森（Craig Watson）说：“有着广泛的表现，当然还有工作要做。“主要的信息是，不要试图将结果推广到所有技术。知道你的用例，正在使用的算法。

作为商务部的一部分，NIST对自愿提交技术审查的99家主要是商业软件供应商的算法进行了测试。它在数以百万计的联邦调查局照片、签证申请照片和其他政府持有的肖像图像上运行这些算法，比如在边境口岸拍摄的图像。

微软是参与这项研究的主要科技公司之一，还有数十家知名度较低的视频监控提供商，以及许多中国公司，如SenseTime、Hikvision和腾讯。向美国警察机构推销面部扫描软件的亚马逊没有参与。

沃森说，这是因为亚马逊基于云的软件不适用NIST的测试程序，尽管该机构正在与该公司商谈如何在未来测试其算法。

该机构的报告将两项被广泛引用的面部识别偏差研究归功于麻省理工学院的研究人员，他们认为这是一个“警示故事”，讲述了跨越种族和性别界限的不均衡结果，尽管这也表明他们在衡量业绩的方式上造成了公众的困惑。