【51CTO.com快译】研究表明，人工智能技术为各行业组织的业务带来了巨大的发展潜力，但同时也带来了威胁和风险。如果某人或某个组织通过人工智能技术获得不当的利益或违法犯罪，那么人工智能技术就是他们手中的武器，并会产生各种威胁。人工智能技术在安全方面并不完全是坏消息。例如人工智能在网络监控和分析方面非常有效。
人工智能如今已经成为一个热门话题，关于人工智能的用途以及可能带来风险的误解和困惑也越来越多。一方面，文学作品和电影几十年来将人工智能技术描绘成为反乌托邦式的全能机器人。另一方面，许多人了解人工智能在加快人类社会发展的潜力。尽管计算机系统可以学习、推理以及采取行动，但这些行为仍处于早期阶段。机器学习(ML)需要学习大量数据，并根据人类分配给人工智能的功能转化为训练或指导。而允许人工智能访问信息并给予其充分的自治权会带来严重的风险，必须得到控制。
人工智能的主要风险与其创造者有着内在的联系。由于人类会犯错误或有偶然的偏差，或者说，程序员的粗心或数据的错误可能会使人工智能系统产生一系列的错误。人工智能系统的不当设计还可能导致计算系统的规模过大或过小，从而导致人工智能系统做出不必要的决策或陷入停顿。而采用诸如人工监督的控制系统并严格测试人工智能系统可以在设计阶段降低这些风险。因此必须对计算系统的决策能力进行测量和评估，以确认是否可以快速解决偏差或可疑决策，并在必要时予以纠正。尽管所描述的人工智能的风险是基于无意的错误以及设计和实施中的缺陷造成的，但是如果个人或组织利用人工智能系统作恶的话，人工智能就像罪犯手中的武器一样带来更多的威胁。
网络犯罪分子可能比人们想象的更容易地使用人工智能技术，并“训练”人工智能系统为其获利。他们可以操纵输入计算机的数据集(数据中毒)以“训练”人工智能，甚至对控制参数进行更改，这一切都是为了将其引向自己的目标。如果网络犯罪分子无法访问数据集，则可以利用篡改技术来强制人工智能系统产生计算错误或使其难以正确识别数据集。即使只是出于财务原因，检查数据和输入的准确性可能并不可行，但安全人员仍需要尽一切努力从可靠且经过验证的来源收集数据。在针对网络攻击的防御措施中，值得一提的是，在某些部分或整个人工智能系统中添加了具有自动预防机制的隔离功能。
Deepfakes的力量
网络犯罪分子还可以使用人工智能使其网络攻击行为或社交策略更加有效。人工智能可以提供黑客活动的数据集，以研究哪种技术最有效。使用人工智能可以显著改进网络犯罪分子当前正在实施的所有策略。他们采用人工智能的另一个潜在领域包括识别软件、应用或网站代码中的新缺陷。在这种情况下，人工智能系统将为他们提供一系列潜在的攻击点，如同训练有素的猎犬一样。
人们不要忘记Deepfakes带来的影响，它可能是网络犯罪分子利用社交软件的一个前沿领域。例如2019年在英国发生的一件采用Deepfakes进行诈骗的事件，当时一家公司的财务人员成为一个精心设计的骗局的受害者，该骗局基于Deepfake音频通话技术。使受害人相信自己正在与该公司的首席执行官通话，于是毫不犹豫地根据其指令将25万美元转给网络犯罪分子，毫无疑问，电话诈骗是采用Deepfake技术进行不当获利的措施之一。
但是正如人们所看到的，Deepfakes显然可以成功并令人信服地得以应用。这名受害者当时表示，他通过“轻微的德国口音”和“说话节奏”确认了首席执行官的声音。如今制作Deepfakes音频的过程非常简单。网络犯罪分子只需要采用机器学习技术即可克隆目标人物的声音，通常使用间谍软件和设备，使他们可以收集目标人物数小时的录音。
他们能够收集的数据越多，音频文件的质量就越好。实际上，语音克隆得越准确，也就越有可能造成损害。一旦创建了语音模式，人工智能就开始“学习”模仿目标的语音。然后使用所谓的生成性对手网络(GAN)进行改进，通过多次尝试，该算法能以指数级的速度改进自身。
对于备受瞩目的目标人物而言，这不是一个好消息(例如知名企业的首席执行官)。他们的演讲被在线记录并通过社交媒体共享，而电话、访谈和日常对话的音频和视频也相对容易获得。有了足够的数据，Deepfake音频文件所达到的准确性水平令人震惊，网络犯罪分子可以采用人工智能技术模仿想要说出的任何话语。
网络钓鱼的发展
当然，网络钓鱼事件如今仍然非常猖獗，85%的组织发现自己已经成为网络攻击目标。然而，Deepfake音频之所以能够泛滥，一个主要原因是能够规避大多数安全措施。另一方面，这些人工智能生成的调用完全依赖于人为错误和轻信，这是它们成为潜在风险的原因。此外不要忽略这样一个事实，即使是随时使用的智能手机，也没有人们想象的那么安全，那么不难看出网络犯罪分子可以通过多种方式绕过安全防御措施。
目前网络钓鱼没有大规模泛滥有两大障碍。一是还没有达到更高的成本效益比：一个发送钓鱼电子邮件的僵尸网络能够在短时间内发送数百万封电子邮件。而Deepfake音频需要一些时间来研究目标和处理时间。而在这一段时间内，传统的网络攻击方法能够产生更多的收益。二是尽管人工智能驱动的网络安全措施确实还处于试验阶段，但已经有一种有效的方法来对付这种威胁：如果用户不确定真假，可以挂断电话。
大多数Deepfake骗局都是使用VoIP帐户来实施的，这个账户是网络犯罪分子为了联系目标人物而创建的。而通过回拨电话，目标人物应该能够立即判断他们是否在和真人交谈。
如何从人工智能中受益以实现组织和个人安全?
对于人们来说，人工智能在安全方面带来的也不完全是坏消息，人工智能可以非常有效地进行网络监控和分析。这样的计算系统已经被证明在检测标准行为和识别可能的异常方面出人意料地有效。例如，在分析服务器访问日志或数据流量时，可以使用这种功能。通过提前检测入侵，有更多的机会将网络攻击的破坏性降至最低。在最初的应用中，让人工智能系统报告异常情况，并提醒IT部门进行进一步调查可能是有用的。人工智能技术仍在不断改进，并且在不久的将来有可能拥有实时消除威胁和防止网络攻击的能力。鉴于公共和私营部门存在的网络安全缺陷，人工智能系统可以实施其中一些监督任务，让组织的人员专注于解决复杂的问题。
随着组织不断努力削减人工成本，人工智能正变得越来越具有吸引力，并有望在不久的将来取代网络安全人员。这种转变将在结果和成本效率方面为组织带来更多的好处。但那些明智的组织现在需要制定安全战略，以降低使用了人工智能技术的网络攻击带来的潜在风险。
原文标题：Artificial Intelligence and Cybersecurity: A Double-Edged Sword，作者：Pierguido Iezzi
【51CTO译稿，合作站点转载请注明原文译者和出处为51CTO.com】
