当前人类社会面临的人工智能安全问题鉴于人工智能算法与系统的特点,因人工智能技术的客观原因导致的安全问题主要源于以下三点。
(1)系统安全层面。
集中表现为基础安全技术缺陷、智能硬件的系统漏洞,以及当前智能技术和产品供应链条的复杂性。
(2)算法透明度与可解释性层面。
AI技术本身具有一定的不确定性,由于人类没有充分认识到人工智能算法的自主学习与决策过程,以深度学习为代表的人工智能算法经常被视作一个无人理解的黑箱。
因此,人工智能算法可解释性和透明度的严重缺失,可能给人类社会带来巨大的影响。
(3)数据使用和隐私保护层面。
人工智能的不断发展是建立在大量的个人数据的记录和分析之上的,所以如何在这个过程中保障个人隐私,合理地使用个人信息则是重中之重。
上述三个问题本身就是巨大的风险,同时由其引发的归责问题、监管问题乃至国家安全问题、社会安全问题等也都是人工智能发展面临的挑战。
安全是任何科技能够长足发展的前提,如何增加社会对科技的信任,如何让科技的发展遵循伦理道德要求都是我们需要考虑的问题。