新西兰政府已经发布了一套标准,旨在作为政府机构如何使用算法的指南。
根据统计部长James Shaw的说法,新西兰“ Aotearoa算法宪章”被誉为“世界第一”,将提高数据透明度和问责制,尤其是在使用算法处理和解释大量数据时。
他说:“使用算法来分析数据和告知决策并非没有风险。”
“因此,重要的是让人们有信心以公平,道德和透明的方式使用这些算法。这就是本宪章的目的。”
迄今为止,该宪章已由21个机构签署:惩教部,教育部,环境部,住房和城市发展部,内政部,税务局,司法部,新西兰土地信息局,教育部毛利人发展部,儿童部,太平洋人民部,社会发展部,新西兰统计局,交通部,新西兰运输局,派克河恢复局,妇女部,社会福利局,新西兰国防军,毛利人官方关系办公室和事故赔偿公司。
在签署章程时,各机构已同意采取一系列措施,包括解释算法如何告知决策;通过识别和管理偏见来确保数据适合目的;通过定期的同行评审算法来确保隐私,道德和人权得到保障;在算法的开发和使用中嵌入特奥毛利人的观点;并清楚地说明了人类在算法告知的决策中的作用。
宪章的制定是政府首席数据管理员和首席数字官的建议,他们在2018年的报告中表示,安全有效地使用运营算法需要整个政府的更大一致性。
该建议是在新西兰政府紧急呼吁评估政府机构如何使用算法来分析数据之后提出的。有人声称新西兰可能利用通过该国签证申请程序收集的公民数据来确定违反签证条件的人,例如根据年龄,性别和种族对人进行过滤。
但是,当时的新西兰移民部长伊恩·里斯·加洛维(Iain Lees-Galloway)拒绝了这个提议。他告诉新西兰电台(Radio New Zealand),移民事务涉及一系列问题,包括那些已经提出并被拒绝多次签证申请的人。
他当时说:“调查的对象是对卫生系统造成最大负担的人,对刑事司法系统造成最大负担的人,并使用这些数据对这些人进行优先排序。”
“重要的是,我们必须保护移民系统的完整性,并尽可能有效地利用移民所拥有的资源,我确实会使用良好的数据来支持他们,以就如何最好地部署其资源做出正确的决定。”新西兰政府补充说,算法章程将继续发展,并将在12个月内进行审查,以确保在不扼杀创新或增加合规负担的情况下实现其预期目的。