2024 年的网络安全问题可以用两个字母来概括：AI（如果缩小到 gen AI，则为五个字母）。组织仍处于了解这项技术的风险和回报的早期阶段。尽管它可以改善数据保护、遵守合规性法规并实现更快的威胁检测，但威胁行为者也在使用 AI 来加速他们的社会工程攻击，并使用恶意软件破坏 AI 模型。
2024 年，人工智能可能获得了最多的关注，但它并不是组织必须应对的唯一网络威胁。凭证盗窃仍然是一个问题，使用被盗凭证的攻击同比增长了 71%。技能短缺仍在继续，公司在数据泄露后又损失了 176 万美元 。随着越来越多的公司依赖云，云入侵事件激增也就不足为奇了。
但过去一年网络安全领域取得了积极进展。CISA 的Secure by Design 计划与 250 多家软件制造商签约，以改善其网络安全状况。CISA 还推出了网络事件报告门户，以改善组织共享网络信息的方式。
去年的网络安全预测主要关注人工智能及其对安全团队未来运作方式的影响。今年的预测也强调了人工智能，表明网络安全可能已经达到了安全和人工智能相互依存的程度，无论好坏。
以下是今年的预测：
影子人工智能无处不在（IBM 安全产品管理副总裁 Akiba Saeedi）
影子人工智能将比我们想象的更加普遍，也更加危险。企业每天都会在系统中部署越来越多的生成式人工智能模型，有时甚至在企业不知情的情况下部署。到 2025 年，企业将真正看到“影子人工智能”的规模——未经批准的人工智能模型，由未得到适当管理的员工使用。影子人工智能对数据安全构成重大风险，2025 年成功应对这一问题的企业将采用明确的治理政策、全面的员工培训以及认真的检测和响应。
身份的转变（IBM 安全产品管理执行总监 Wes Gyure）
随着混合云和应用现代化计划的实施，企业对身份的看法将继续发生变化。认识到身份已成为新的安全边界，企业将继续转向“身份优先”战略，管理和保护对应用程序和关键数据（包括新一代人工智能模型）的访问。2025 年，该战略的一个基本组成部分是构建有效的身份结构，即一套与产品无关的集成身份工具和服务。如果做得好，这将为安全专业人员带来可喜的缓解，缓解多云环境激增和身份解决方案分散造成的混乱和风险。
每个人都必须共同努力来应对威胁（Sam Hector，IBM 安全全球战略负责人）
网络安全团队将不再能够孤立地有效管理威胁。生成式人工智能和混合云采用带来的威胁正在迅速演变。与此同时，量子计算对现代公钥加密标准构成的风险将变得不可避免。鉴于新的量子安全加密标准的成熟，人们将推动发现加密资产并加速加密管理的现代化。明年，成功的组织将是那些高管和多元化团队共同制定和执行网络安全战略、将安全融入组织文化的组织。
为后量子密码标准做好准备（Ray Harishankar，IBM 院士，IBM Quantum Safe）
随着各组织在明年开始向后量子密码学过渡，敏捷性对于确保系统为持续转型做好准备至关重要，尤其是随着美国国家标准与技术研究所 (NIST) 继续扩展其后量子密码学标准工具箱。NIST 最初的后量子密码学标准向世界发出信号，现在是时候开始走向量子安全了。但同样重要的是加密敏捷性的需求，确保系统能够快速适应新的加密机制和算法，以应对不断变化的威胁、技术进步和漏洞。理想情况下，自动化将简化和加速这一过程。
数据将成为人工智能安全的重要组成部分（IBM 安全软件开发副总裁 Suja Viswesan）
数据和人工智能安全将成为可信赖人工智能的重要组成部分。“可信赖人工智能”通常被解释为透明、公平和保护隐私的人工智能。这些都是关键特征。但如果人工智能及其驱动数据不安全，那么所有其他特征都会受到损害。到 2025 年，随着企业、政府和个人与人工智能的互动越来越频繁，风险也越来越大，数据和人工智能安全将被视为可信赖人工智能配方中更重要的一部分。
组织将继续学习人工智能的优势与威胁的对比（Mark Hughes，IBM 网络安全服务全球执行合伙人）
随着人工智能从概念验证阶段逐渐成熟到大规模部署，企业获得了生产力和效率提升的好处，包括自动化安全和合规任务以保护其数据和资产。但组织需要意识到人工智能正被用作威胁行为者破坏长期安全流程和协议的新工具或渠道。企业需要采用人工智能的安全框架、最佳实践建议和防护措施并快速适应——以应对人工智能快速发展带来的好处和风险。
更好地了解人工智能辅助威胁与人工智能驱动威胁（Troy Bettencourt，IBM X-Force 全球合作伙伴兼负责人）
防范 AI 辅助威胁；为 AI 驱动的威胁做好规划。AI 驱动的威胁和 AI 辅助威胁之间存在区别，包括组织应如何考虑其主动安全态势。迄今为止，AI 驱动的攻击（如深度伪造视频诈骗）一直受到限制；当今的威胁仍然主要是 AI 辅助的——这意味着 AI 可以帮助威胁行为者创建现有恶意软件的变体或更好的网络钓鱼电子邮件诱饵。为了应对当前的 AI 辅助威胁，组织应优先为自己的 AI 解决方案实施端到端安全性，包括保护用户界面、API、语言模型和机器学习操作，同时注意防御未来 AI 驱动攻击的策略。
这些预测传达出一个非常明确的信息：了解人工智能如何帮助和伤害一个组织，对于确保您的公司及其资产在 2025 年及以后受到保护至关重要。
