Facebook停用人脸识别,真是规避风险?涉嫌种族歧视才致命

人工智能 人脸识别 安全
违反政策法律、面临集体诉讼只会让公司增加许多费用,但在国外,如果一家公司或者一项技术涉嫌种族歧视,是十分致命的。

Mate公司,也就是改名后Facebook宣布,将停用人脸识别系统,删除超过10亿人的个人面部识别数据。据悉,超过三分之一的 Facebook 用户使用了人脸识别设置。

[[433421]]

Facebook人工智能副总裁杰罗姆·佩森蒂表示:“人们对面部识别技术还存在许多担忧,同时监管机构也在制定一套详细的规则来约束人脸识别技术的使用,在这种持续的不确定性中,我们认为将面部识别的使用,限制在一个狭小的范围内是最合适的。”

[[433422]]

事实真的如此吗?的确有这一部分的原因。

2020年,Facebook支付了6.5亿美元,来解决用户提起的集体诉讼。这些用户称,Facebook在未经允许的情况下,创建和存储了他们的面部数据。

2019年,旧金山成为第一个禁止政府使用人脸识别技术的城市,密西西比州、俄勒冈州、波士顿等州,也颁布了相关的禁令。

基于以上两种原因,Facebook不得不停用人脸识别技术。那么,还有没有其他原因呢?

违反政策法律、面临集体诉讼只会让公司增加许多费用,但在国外,如果一家公司或者一项技术涉嫌种族歧视,是十分致命的。

[[433423]]

在中国,人脸识别的准确率高达98%以上,这是因为我们是单一人种,识别难度较低,而在西方国家,因为有色人种的存在,人脸识别准确率一般在90%左右。

90%的准确率看似可以,但并不普遍,越来越多的研究表明,不同人群的错误率有较大的差异,其中18-30岁的黑人女性准确率最低。

美国国家标准与技术研究院曾经做过一项研究,发现189种人脸识别算法对有色人种女性的准确率最低,而浅肤色男性的准确率最高。

不仅仅是研究,实践结果也表明,人脸识别技术的确存在这样的问题。

2018年,ACLU对名为“Rekognition”的面部识别工具进行测试,结果该软件却错误地将28名国会议员,标识为因某种原因被捕的犯罪嫌疑人。

不难发现,其中有色人种占了相当大的一部分,甚至白人男性也被错误地识别了……

在5·25美国警察暴力执法事件中,非裔美国公民乔治·佛洛伊德惨遭白人警察“跪杀”身亡,歧视性执法才被重视。相比白人,黑人更有可能因为轻微犯罪而被捕。

[[433424]]

如果有色人种的人脸识别率过低,种族主义的警察很有可能利用这项技术,逮捕更多的黑人。

在中国,人脸识别技术不太需要考虑人种的差异,而国外不同,早些年由于其标准训练数据库主要是白人和男性,而且默认的相机也通常没有优化以捕捉较深肤色的人种,从而导致美国黑人数据库图像质量变低。

显然,Facebook停用人脸识别,也有处于这方便的考量,要提升人脸识别技术的准确率,需要更多的投入,与其同时还要面临与日俱增的集体诉讼和政策风险,费力不讨好。

 

责任编辑:赵宁宁 来源: 今日头条
相关推荐

2020-07-13 09:40:17

Linux 系统 数据

2009-12-24 10:09:08

惠普种族歧视

2020-04-15 16:10:30

谷歌AI冠状病毒

2020-06-05 09:46:14

黑客加密网络攻击

2021-11-03 14:56:15

Facebook 人脸识别技术

2020-06-29 09:30:37

黑客信息泄露数据安全

2020-06-15 10:08:23

GitHub代码开发者

2020-06-12 09:08:29

人脸识别技术安全

2016-09-04 16:26:09

虚拟机性能 内存过量分配

2016-04-08 14:55:14

2011-05-07 10:27:50

服务器迁移宕机

2009-01-14 19:05:09

服务器虚拟化云计算

2021-11-03 16:20:47

Facebook人脸识别

2018-01-03 09:43:45

物联网

2023-10-07 10:27:29

2021-07-01 09:32:14

人脸识别AI人工智能

2021-11-04 10:35:42

面部识别Facebook隐私

2021-03-10 17:22:01

人脸识别人工智能数据

2020-08-13 11:36:09

人脸识别技术数据

2022-02-18 14:29:43

人脸识别隐私人工智能
点赞
收藏

51CTO技术栈公众号