在美国众议院一个关键小组要求提交一份报告,研究使用人工智能来分析囚犯电话之后,美国监狱可能会得到更多高科技帮助,以监视囚犯言论。但是对囚犯人权倡导者和囚犯的家人说,依靠人工智能来解释通信,会出现错误、误解和种族偏见。
美国司法部(DOJ)呼吁进一步探索这项技术,以帮助预防暴力犯罪和自杀,同时还呼吁拨款委员会在上个月通过一项超过810亿美元的支出法案,为司法部和其他联邦机构在2022年提供资金。目前该技术可以自动转录囚犯的电话,分析他们的语气,并标记出官员预先编入系统的某些单词或短语,包括俚语。
众议院一位民主党议员助手在一份电子邮件声明中说,他们鼓励司法部在审查这种系统可行性过程中与利益相关者接触。美国全国各地一些州和地方设施已经开始使用这项技术,包括阿拉巴马州、乔治亚州和纽约州。众议院小组希望司法部研究是否有可能利用该技术供联邦使用,并确定其产生信息中的差距或不足之处。
隐私团体对此表示,这项技术可能会放大司法系统中的种族偏见,并不公平地让囚犯接受不负责任的人工智能。总部设在纽约的监控技术监督项目组织表示,本届美国国会应该取缔种族主义的警务技术,那些被卷入刑事司法系统的人总是被变成新技术系统的实验对象。支持者对这种批评提出异议,称该技术是执法部门的重要省时工具,并不针对特定群体。
阿拉巴马州牛津市的警察局长比尔-帕特里奇表示,在囚犯被标记为电话中谈论"实际犯下的谋杀罪"之后,当地警方已经成功地解决了凶杀悬案。帕特里奇的部门是该州少数几个利用LEO Technologies软件的机构之一,该软件使用亚马逊网络服务(AWS)自然语言处理和转录工具,来处理和标记囚犯电话,以便进行近乎实时的分析。