谷歌已取消其长期以来禁止使用AI制造武器和监控系统的禁令，这标志着谷歌在AI开发方面的道德立场发生了重大转变。前员工和行业专家表示，此举可能会改变硅谷对AI安全性的看法。这一变化于本周悄然实施，消除了谷歌AI原则中明确禁止公司开发用于武器或监控的AI的关键部分。这些原则于2018年制定，一直是负责任AI开发的行业标准。2024年电信中的AI法规导航——AI影响之旅
“最后一道堡垒已经消失，”谷歌云负责对外产品管理、合作和负责任AI的高级总监特蕾西·皮佐·弗雷(Tracy Pizzo Frey)在一篇BlueSky帖子中写道，“现在毫无阻碍了。谷歌在这一层面的承诺清晰度上确实独树一帜。”修订后的原则取消了四项具体禁令：可能造成整体伤害的技术;武器应用;监控系统;以及违反国际法和人权的技术。相反，谷歌现在表示将“减轻非故意或有害的结果”，并与“国际法和人权方面广泛接受的原则”保持一致。
谷歌放宽AI道德标准：这对军事和监控技术意味着什么
这一转变发生在AI能力迅速提升，以及关于该技术适当护栏的辩论加剧的敏感时刻。这一时机引发了人们对谷歌动机的质疑，尽管谷歌坚称这些变化已酝酿了很久。“我们正处于一个对大型科技公司不太信任的状态，任何看似移除护栏的举动都会加剧这种不信任，”皮佐·弗雷在接受记者采访时说。她强调，在她担任谷歌职务期间，明确的道德界限对于构建值得信赖的AI系统至关重要。
这些原则最初是在2018年员工抗议五角大楼Maven项目时出现的，该项目涉及利用AI分析无人机拍摄的视频。虽然谷歌最终决定不续签该合同，但这些新变化可能表明谷歌对类似的军事合作伙伴持开放态度。此次修订保留了谷歌先前道德框架的一些元素，但从禁止特定应用转变为强调风险管理。这种方法与国家标准与技术研究院(NIST)的AI风险管理框架等行业标准更为一致，但批评人士认为，它对潜在有害应用的限制不那么具体。
“即使严谨程度不同，但伦理考虑在创造优质AI方面同样重要，”皮佐·弗雷指出，并强调了伦理考虑如何提高AI产品的有效性和可访问性。
从Maven项目到政策转变：谷歌AI伦理改革之路
行业观察人士表示，这一政策变化可能会影响其他科技公司对待AI伦理的方式。谷歌的原始原则为AI开发中的企业自我监管树立了先例，许多企业在实施负责任的AI时都以谷歌为指导。这一修改反映了科技行业在快速创新与道德约束之间的更广泛紧张关系。随着AI开发的竞争日益激烈，公司在平衡负责任的开发与市场需求方面面临着压力。
“我担心这些产品被快速推向世界，以及如果越来越多的护栏被拆除会怎样，”皮佐·弗雷说，她表达了对出于竞争压力而迅速发布AI产品，却未充分评估潜在后果的担忧。
大型科技公司的道德困境：谷歌的AI政策转变是否会树立新的行业标准?
此次修订还引发了人们对谷歌内部决策过程的质疑，以及在没有明确禁令的情况下，员工将如何处理伦理问题。在谷歌任职期间，皮佐·弗雷建立了审查流程，汇集了不同观点来评估AI应用的可能影响。虽然谷歌仍致力于负责任的AI开发，但取消具体禁令标志着其在此前为AI应用建立明确道德界限的领导角色上发生了重大转变。随着AI的不断发展，该行业正在密切关注这一转变如何影响AI开发和监管的更广泛格局。
