AI时代的信任与风险

人工智能
Vanta的《2024年信任状况报告》揭示出全球企业在网络安全和合规方面面临前所未有的挑战。

根据Vanta的报告,55%的企业表示其业务面临的安全风险前所未有地高,然而,企业在IT预算中平均仅分配11%用于安全保障,远低于业务和IT领导者所建议的17%的理想比例。

大多数公司未提供AI数据训练的选择退出选项

AI的快速普及进一步加剧了风险,钓鱼攻击(33%)、基于AI的恶意软件(32%)以及合规性违规(27%)自去年AI应用大幅增加以来逐渐上升。

虽然AI正逐渐走向主流,但公司在训练其AI模型以及与客户沟通其做法方面仍处于初期阶段,且差异显著。有27%的公司仅使用匿名化的客户数据,而31%的公司则采用客户数据和合成数据的混合方式,此外,尽管有25%的公司要求客户选择同意使用其数据进行AI训练,超过75%的公司并未提供选择退出的选项。

随着企业对第三方供应商和AI的依赖日益增加,安全形势从未如此严峻,与此同时,安全负责人及其团队面临日益增加的合规负担。2024年,用于手动安全合规任务的时间增至超过11周,而2023年为10周。

65%的企业表示,客户、投资者和供应商对合规展示的要求比以往更高。IT决策者平均每周花费6.5小时评估和审核供应商风险。

50%的企业每周至少一次检测和响应网络安全威胁,46%的企业表示其供应商自合作以来经历过数据泄露,62%的人认为,第三方的数据泄露对其企业的声誉产生负面影响。

37%的企业已或正在进行定期的AI风险评估,36%已制定或正在制定企业AI政策。

安全和合规问题在不同时区间存在显著差异

尽管各国仍在应对一系列独特的安全和合规挑战,调查结果显示各个时区的企业在面对这些挑战时的差异显著。

48%的美国企业自与供应商合作以来,经历过供应商数据泄露事件——在所有调查市场中比例最高。英国的企业在合规任务上花费的时间最多——每年12周,而2023年为10周。澳大利亚的公司对供应商风险的了解最少,只有17%的公司拥有“强有力”的可见性。

美国公司最关注AI的内部使用及其对企业安全带来的风险(53%)。

55%的英国企业增加了对安全运营中AI的投资,比美国高出10%,比澳大利亚高出18%,只有28%的澳大利亚公司已制定或正在制定公司AI政策——在所有市场中最低。

随着客户对安全的期望不断提高,领导者逐渐认识到在构建和展示信任方面投资的商业价值,48%的受访者认为良好的安全实践有助于推动客户信任,46%认为良好的安全实践能够降低财务风险。

在正确的方式下使用AI和自动化,能够帮助安全团队提升效率,腾出时间处理战略性工作,进而带来更多的业务影响。通过自动化用户访问审查、员工管理和安全问卷回复等活动,安全团队平均每周可以节省3到5个小时。44%的企业表示,过去一年中他们在安全运营自动化方面的投资有所增加。

“在AI驱动的世界中保持信任,安全领导者需要超越传统的做事方式,”Vanta的CEO Christina Cacioppo表示,“他们需要在整个业务中实现持续的、协作的、自动化的信任管理。信任管理可以帮助企业降低风险、建立客户信心并加速收入增长。”

该报告由Vanta委托Sapio Research进行的《2024年信任状况报告》,调查了美国、英国和澳大利亚的2500位业务和IT领导者的行为和态度,以揭示塑造安全和合规的最新趋势。

责任编辑:华轩 来源: 企业网D1Net
相关推荐

2023-04-10 10:28:33

ChatGPTAI风险管理计划

2014-08-22 16:34:21

2021-10-27 11:40:18

风险管理/零信任

2023-06-13 12:12:44

2023-07-19 10:48:02

人工智能

2018-08-24 13:34:50

2018-08-13 20:40:02

AI金融企业风险

2020-10-22 10:21:21

风险

2024-04-12 14:12:45

人工智能JavaScript

2024-04-12 08:32:03

JSAI机器学习

2024-07-17 21:12:50

2011-06-28 10:04:26

云计算云服务云安全

2021-06-29 10:34:41

IT风险首席信息官CIO

2018-12-21 12:53:54

5G互联网运营商

2020-06-04 07:00:00

人工智能AIRedis

2024-04-07 00:00:00

JSNode.jsAI

2024-06-14 10:19:03

2020-12-16 11:00:34

物联网安全信任信任管理
点赞
收藏

51CTO技术栈公众号