Mate公司,也就是改名后Facebook宣布,将停用人脸识别系统,删除超过10亿人的个人面部识别数据。据悉,超过三分之一的 Facebook 用户使用了人脸识别设置。
Facebook人工智能副总裁杰罗姆·佩森蒂表示:“人们对面部识别技术还存在许多担忧,同时监管机构也在制定一套详细的规则来约束人脸识别技术的使用,在这种持续的不确定性中,我们认为将面部识别的使用,限制在一个狭小的范围内是最合适的。”
事实真的如此吗?的确有这一部分的原因。
2020年,Facebook支付了6.5亿美元,来解决用户提起的集体诉讼。这些用户称,Facebook在未经允许的情况下,创建和存储了他们的面部数据。
2019年,旧金山成为第一个禁止政府使用人脸识别技术的城市,密西西比州、俄勒冈州、波士顿等州,也颁布了相关的禁令。
基于以上两种原因,Facebook不得不停用人脸识别技术。那么,还有没有其他原因呢?
违反政策法律、面临集体诉讼只会让公司增加许多费用,但在国外,如果一家公司或者一项技术涉嫌种族歧视,是十分致命的。
在中国,人脸识别的准确率高达98%以上,这是因为我们是单一人种,识别难度较低,而在西方国家,因为有色人种的存在,人脸识别准确率一般在90%左右。
90%的准确率看似可以,但并不普遍,越来越多的研究表明,不同人群的错误率有较大的差异,其中18-30岁的黑人女性准确率最低。
美国国家标准与技术研究院曾经做过一项研究,发现189种人脸识别算法对有色人种女性的准确率最低,而浅肤色男性的准确率最高。
不仅仅是研究,实践结果也表明,人脸识别技术的确存在这样的问题。
2018年,ACLU对名为“Rekognition”的面部识别工具进行测试,结果该软件却错误地将28名国会议员,标识为因某种原因被捕的犯罪嫌疑人。
不难发现,其中有色人种占了相当大的一部分,甚至白人男性也被错误地识别了……
在5·25美国警察暴力执法事件中,非裔美国公民乔治·佛洛伊德惨遭白人警察“跪杀”身亡,歧视性执法才被重视。相比白人,黑人更有可能因为轻微犯罪而被捕。
如果有色人种的人脸识别率过低,种族主义的警察很有可能利用这项技术,逮捕更多的黑人。
在中国,人脸识别技术不太需要考虑人种的差异,而国外不同,早些年由于其标准训练数据库主要是白人和男性,而且默认的相机也通常没有优化以捕捉较深肤色的人种,从而导致美国黑人数据库图像质量变低。
显然,Facebook停用人脸识别,也有处于这方便的考量,要提升人脸识别技术的准确率,需要更多的投入,与其同时还要面临与日俱增的集体诉讼和政策风险,费力不讨好。