根据波士顿咨询公司(BCG)的数据，美国和日本超过90%的网络安全专业人士预言攻击者会开始使用人工智能发动攻击。事实上，这已经成为现实。
人工智能为网络攻击者提供了“核动力”，使他们能够在速度、数量和复杂度方面将攻击力度加强到新的层次。专家称，基于人工智能的攻击绕过传统侦测系统的几率高达15%;而一个普通的网络钓鱼攻击(没有人工智能)只有0.3%的机会。
AI带来的安全风险
在应对这一日益增长的威胁时，许多人提出，基于AI的进攻需要基于AI的防御。例如，深度伪装(DeepFakes)可以欺骗身份安全认证系统，应该采用更高的人工智能支持的身份验证。
目前存在人工智能产生的风险。企业应尽快采取行动，保护其系统免受这些攻击。WannaCry(一种“蠕虫式”的勒索病毒软件)已经使网络攻击达到了一种全新的复杂程度——现在如果加上人工智能呢?
DeepFakes是一款曾经火遍全球的AI换脸工具,使用该软件可以将专业复杂的ai换脸过程简化,将其他人的头像快速转换到自己的头像上,实现非常快速的换脸。
人工智能如何实施网络攻击
可扩展能力
在2016年黑帽大会上，资深研究人员首次展示了一个自动鱼叉式网络钓鱼程序。鱼叉式网络钓鱼，锁定的对象并非一般个人，而是特定公司、组织成员，其窃取信息不是一般网络钓鱼所窃取的个人资料，而是其他高度敏感性资料，如知识产权及商业机密。这些研究人员展示了如何利用数据科学和机器学习来自动化和扩展鱼叉式网络钓鱼攻击。
黑帽安全技术大会(Black Hat Conference)创办于1997年，被公认为世界信息安全行业的最高盛会，也是最具技术性的信息安全会议。会议引领安全思想和技术走向，参会人员包括企业和政府的研究人员，甚至还有一些民间团队。为了保证会议能够着眼于实际并且能够最快最好地提出方案、问题的解决方法和操作技巧，会议环境保持中立和客观。
冒充
几个月前，伦敦大学学院道斯未来犯罪中心的专家将深度伪装(DeepFakes)列为最严重的人工智能犯罪威胁。不难理解为什么。深度伪装是造谣和欺骗的工具。此外，心怀不轨的人可以用来冒充你信任的人，进行财务欺诈。最糟糕的是它们很难被发现。它们还将导致人们不信任视听证据，如果无法防止这些证据被假冒和篡改的话。
漏检
人工智能逃避检测的一种方法是“数据下毒“。通过定位和破坏用于训练和配置智能威胁检测系统的数据，比如将垃圾邮件标记为安全的，攻击者可以更隐蔽、更危险地实施攻击。研究表明，仅对3%的数据集下毒就可以将侦测系统误判的可能性提高91%。人工智能可以很快适应防御机制并攻破它。
自动化
以上这些还仅是关于人工智能如何增强安全攻击的情况。如果基于自动化和机器学习，人工智能攻击的情况更严重。自动化技术突破了人类努力的极限，而机器学习使得攻击算法在经验的基础上不断改进，无论攻击成功与否，都能提高效率。这就意味着基于人工智能的攻击只会变得更强大和更危险，除非开发出更强的对抗机制。
AI防御AI
基于机器学习的威胁检测
在用AI防御AI的过程中，机器学习起到了帮助自动检测威胁的作用，特别是在传统防病毒和防火墙系统无法防御的新威胁下。机器学习可以显著地减少50%到90%误报。与上一代基于特征码的检测工具不同，机器学习可以监控和记录组织中成员的网络使用模式，并在发现异常行为时提醒主管。
93%的SOC(System on Chip 系统级芯片)现在使用人工智能和机器学习工具进行威胁检测。生成的数据越多，受到的网络攻击越复杂，专业安全人员将不得不通过有监督和无监督的机器学习来增强其防御和检测能力。
增强身份验证
弱身份验证是入侵者未经授权访问的最常见方式。而且，正如在深度伪装(deepfakes)中看到的那样，即使是生物认证也不再是万无一失。AI将通过向身份验证添加更多条件来提高防御的有效性(现在在许多需要人脸进行身份验证的时候，增加了眨眼或张嘴的指令要求)。
同时身份验证还将扩展到实时智能。也称为自适应智能，它评估诸如位置信息、IP地址、设备信息、数据敏感性等细节，以计算风险分数并授予或限制访问。
例如，如果一个人总是在工作日早上通过电脑登录，并且有一次在周末试图通过移动设备在餐厅登录，这可能是一种可以的迹象，系统将对其进行标记。
在智能安全模型中，攻击者仅知道系统的密码是不够的。
除此之外，人工智能驱动的认证系统将开始实现连续认证，持续进行行为分析。该系统不再仅是登录的时候出现一次，而是在后台连续工作，通过分析用户环境和行为来识别可疑模式，从而对用户进行身份验证。
防范网络钓鱼
增强威胁检测是一种方法，人工智能可以用来防止电子邮件钓鱼攻击，阻断危险链接。它也可以通过简单的内容分析来实现。
假设你收到一封据称是CEO发来的邮件，AI可以分析邮件，找出是否与实际CEO平时沟通方式不一致的地方：诸如写作风格、语法和用词选择等特性。防止您落入陷阱，并安全地浏览和下载相关内容。
人工智能还可以扫描电子邮件元数据以检测更改的签名，即使电子邮件地址看起来没问题。它还可以扫描链接和图像以验证它们的真实性。
预测分析
人工智能在网络安全方面的最大好处是能够在攻击发生之前预测并建立防御。人工智能可以帮助监督人员对组织的整个网络基础设施保持全面掌控，并分析检测可能的漏洞。IT部门越来越感觉实时安全性很困难，人工智能可以让他们的工作更轻松。
人工智能是我们对付零日漏洞(又叫零时差攻击,是指被发现后立即被恶意利用的安全漏洞)的最佳选择，它允许我们在这些漏洞被恶意行为者利用之前快速构建智能防御。人工智能网络安全正在成为企业机构和组织的一种数字免疫系统，类似于人类系统抗体，对外来物质随时发起进攻。
矛与盾的较量
去年，一些澳大利亚研究人员绕过著名的Cylance AI杀毒软件，他们没有使用常见的数据集中毒方法。他们只是研究了杀毒软件的工作原理，并创建了一个通用的旁路解决方案。这次演习引起了人们对AI用于网络安全的有效性的质疑。
然而，更重要的是，这项研究强调了一个事实，即AI并不是万能，人类也需要不断提升AI对付更先进的网络威胁的能力。关键是我们必须把AI作为对付AI的最佳攻防手段。
