前几天,腾讯公司旗下产品存在违规,被累计通报达4批次。工信部对腾讯采取过渡性指导措施,所有APP上新或者发布新版本,都必须经过工信部技组织技术检测,合格后方能正常上架。
近几年来,中国正在不断加强对互联网监管,取得极为明显的成绩,APP各种弹窗、诱导点击、恶意索取权限的现象基本上消失。
世界各国也紧跟中国脚步,就在上个月,美国纽约市通过了一项法律,雇主在招聘或者提拔员工时,使用的人工智能算法必须进行审计,审计不通过将不能使用。此外,当人工智能在招聘或者提拔员工时,发挥了什么作用,还必须告诉求职者。
曾在纽约自动化决策系统工作组任职的纽约大学副教授Julia Stoyanovich表示,她和学生最近检查了一种招聘工具,发现它会根据应聘者的毕业院校、口音、是否戴眼镜等条件,来给招聘者打分。
除了纽约州,美国其他州也不甘寂寞。在华盛顿特区,国会议员正在起草一项法案,要求企业评估用于医疗保健、住房、就业或教育等领域的自动化决策系统,并将调查结果报告给联邦贸易委员会。
美国特供版“人工智能”
为什么美国开始加强对“AI”的监管?答案竟然是无处不在的“种族歧视。”
美国是一个多人种的移民国家,因为技术原因,人工智能对不同人种的识别率都不太一样。美国国家标准与技术研究员曾经做过一项研究,发现189种人脸识别算法,对有色人种女性的识别准确率最低,却对浅肤色男性识别的准确率最高。
这就涉及到两个问题“性别歧视”和“种族歧视。”美国对后者尤为敏感。
因为人工智能的这一缺点,美国曾经发生过多起因人工智能引起的纠纷。一名密歇根男子,因为人工智能识别错误的原因,不得不申请破产;租客自动筛选工具伤害了许多买房或者租房的有色人种。
在Facebook上,由于人工智能的存在,黑人比起白人更容易被误判;自动化评分系统,会对学生和老师进行打分,却更容易将深色肤色的人,标记为在考试中作弊……
中国规范人工智能
在中国,规范人工智能技术更多考虑的是被滥用的问题。
今年315晚会上,曝光了人脸识别被滥用的问题。科勒卫浴等商家在众多门店安全人脸摄像头,未经用户同意,就将人脸信息、性别、年龄和衣着记录下来,对客户进行分类。店员即可根据顾客的特点精准营销。
一些旅游景点、小区门禁强制游客或者业主使用人脸识别的报道也屡见不鲜。
为此,中国陆陆续续出台了许多法律法规文件进行规范。特别是在今年8月份,中国国家互联网信息办公室发布了《关于加强互联网信息服务算法综合治理的指导意见》,它被美国科技和创业新闻门户网站Venturebeat 认为,是迄今为止管理人工智能系统最全面的文件,在这方面,没有哪个国家比中国走得更远。