敌对式人工智能是啥东东?为何它很重要?

译文
人工智能
人工智能(AI)正迅速成为政府、企业和公民防御网络攻击的一个重要组成部分。从最初只是自动执行特定手工任务的技术,到使用日益复杂的系统来解读分析数据的机器学习,深度学习能力方面的突破将成为安全议程中一个不可或缺的部分。

[[250514]]

【51CTO.com快译】人工智能(AI)正迅速成为政府、企业和公民防御网络攻击的一个重要组成部分。从最初只是自动执行特定手工任务的技术,到使用日益复杂的系统来解读分析数据的机器学习,深度学习能力方面的突破将成为安全议程中一个不可或缺的部分。人们对这些能力如何有助于打造防御态势给予了极大的关注。但是敌人如何利用AI带来新一代攻击途径、安全界如何应对却往往被忽视。最终,AI的真正危险在于它会成为攻击者的帮凶。

挑战

敌对式AI是指恶意开发和使用先进的数字技术和系统,它们拥有通常与人类行为相关的智力过程。这包括从过去的经验中学习以及从复杂数据中推理或发现含意的能力。

威胁领域的变化已经很明显。犯罪分子已经在利用自动化侦察、钻目标空子和网络渗透。很快,技术将使它们能够自动执行攻击周期的每个环节,包括目前非常手动的流程,比如学习欺诈控制的能力以及使套现和洗钱策略实现工业化的能力。

基于核心的大数据原则,敌对式AI将从三大方面影响威胁领域。

1. 对更广泛的攻击周期实行更大规模的攻击

通过引入新的可扩展系统(通常需要人力和专长来实施攻击),犯罪分子能够投入资源和能力,针对一批目标来构建和改动新的基础设施。

2. 新的攻击步伐和速度,可以针对具体环境来改动

技术将使犯罪团伙能够变得越来越有效且高效。技术将让他们得以实时微调攻击,适应具体的环境,并更快地学习防御态势。这在所有攻击场景、行业和技术平台上将得到体现。

3. 新的攻击种类,以前依赖人类互动时是不可能实现的

最后但最重要的是,下一代技术系统将实现以前不可行的攻击方法。这将在一系列转变中改变威胁领域,绕过为抵御攻击而实施到位的整整一代控制。

网络安全界需要采取的5种应对方式

可供攻击者使用的新一代系统方面的进步需要我们基于坚实的安全基础,采用一种整体的、多层次的方案。攻击途径的改动和增加需要当前的防御框架有所演变和适应。新一代攻击方法需要绕过传统的检测和响应态势才有可能得逞。

1. 了解我们当前的威胁环境

不可能始终保护企业免受来自所有渠道的攻击。了解和防御敌对式AI将需要深入了解威胁在哪个环节会挑战当前的安全态势、应将有限的资源集中投入到哪个环节。

2. 投入于技能和分析

为了适应这种新的安全环境,政府、企业和教育系统需要确保它们拥有必要的技能基础和人才管道。吸引和招募人才的能力,以及对人才进行多学科(包括高级计算、数学和统一分析)方面的再培训的能力很快会至关重要。

3. 投入于供应商和第三方

全面的深度防御基于一整套服务和第三方,它们在运营和战略层面积极管理和完善防御,顺应不断变化的威胁领域。安全界要有明确的路线图、战略和必要的技能,以适应敌对式AI带来的新型攻击。投入于集成式的集群和机器学习分析以实现基于主机的检测和网络监控,这越来越成为行业标准,但很快需要这种先进技术,应用于企业的全部攻击面。

4. 投入于新的政企伙伴关系

引入新的AI驱动系统将挑战传统的防御态势,需要更深入和更广泛的合作伙伴基础以保护企业。想应对可在全球范围内实施的大规模攻击,需要传统结构之外积极的伙伴关系和联盟。这方面的关键是与跨行业合作伙伴、监管部门和政府积极制定战略,它们可以共同制定战略,积极应对新的安全挑战。这会更需要协调针对合作伙伴之间认证和沟通的规则。

5. 继续融合关键业务流程和能力

新一代攻击针对整个企业的全部攻击面,并钻缺乏整体防御机制的空子,会给结构性运营孤岛带来越来越大的压力。

为什么现在行动起来很重要?

网络安全将继续成为21世纪的安全挑战。它已经从根本上改变了企业、政府和公民如何合作打击犯罪。但这只是一个开始。

原文标题:What is adversarial artificial intelligence and why does it matter?,作者:William Dixon

【51CTO译稿,合作站点转载请注明原文译者和出处为51CTO.com】

责任编辑:庞桂玉 来源: 51CTO
相关推荐

2018-01-26 09:00:00

2022-08-24 15:03:21

数据智能数据分析

2024-10-09 13:45:33

2023-05-17 17:32:25

2016-11-16 13:51:46

数据库NoSQL大数据

2023-05-05 14:02:59

人工智能聊天机器人

2023-02-15 08:00:00

2024-04-11 07:00:00

人工智能

2022-02-26 19:05:01

AI人工智能机器学习

2020-03-11 10:05:42

人工智能AI监管

2021-12-21 23:02:44

人工智能机器人技术

2020-11-03 17:21:33

人工智能技术宇宙

2010-10-26 13:44:15

2022-12-29 10:16:12

观察性系统监视

2024-04-22 15:31:02

物联网

2022-11-15 14:52:09

虚拟孪生数字孪生

2020-04-03 08:00:00

人工智能AI机器学习

2023-08-02 18:26:31

2023-07-20 10:59:04

2021-07-17 22:49:52

人工智能科学技术
点赞
收藏

51CTO技术栈公众号