人工智能技术作为一种颠覆性的“力量”，助力企业能够创造出更新的、无与伦比的数字体验。然而，实施人工智能的实际情况却异常复杂，如果没有正确、安全的方法，就会大大增加企业的风险态势。目前，许多企业急于利用人工智能，却忽视了自身需要坚实基础的必要性，这种疏忽不仅会降低人工智能解决方案的有效性，还会使其面临多种安全威胁。
企业对生成式人工智能充满“热情”
在企业构建新的堆栈以支持不断扩大的人工智能驱动的数字服务时，必须时刻强调企业在基础设施、数据、模型、应用服务和应用层所面临的挑战，这些挑战是企业想要广泛、可扩展以及长久采用人工智能所必须克服的。
同时，研究表明企业对生成式人工智能技术是否会助力企业业务发展，非常乐观，充满热情，很多受访者将生成式人工智能技术评为 2024 年最令人兴奋的技术趋势。但非常有意思的是，只有 24% 的企业表示已经大规模实施了生成式人工智能。
目前，生成式人工智能技术的应用呈上升趋势，但最常见的用例往往不具备“战略”功能。很多受访者表示，其公司内部已经部署的最常见用例包括协同机器人和其他员工生产力工具（40% 的受访者正在使用）以及聊天机器人等客户服务工具（36%）。
数据”成熟度“是实施人工智能面临的巨大挑战
调查过程中，企业领导者研究大规模部署基于人工智能的应用所面临的挑战时，着重提到了在基础设施层遇到的三个主要问题：
- 62% 的人认为计算成本是扩展人工智能的主要问题：
- 57% 的人认为模型安全性是主要问题，为解决这一问题，企业领导者预计，随着部署规模的扩大，未来几年在安全方面的支出将增加 44% ：
- 55% 的受访者认为模型各方面的性能是一个问题。
在数据层，数据成熟度是影响人工智能广泛实施的一个更为直接和潜在的巨大挑战。其中，72% 的受访者认为数据质量和无法扩展数据实践是扩展人工智能的最大障碍，53% 的受访者认为缺乏人工智能和数据技能是主要障碍。
值得一提的是，尽管 53% 的企业表示他们已制定了明确的数据战略，但超过 77% 的受访企业表示他们缺乏数据的单一真实来源。
人工智能驱动的攻击、数据隐私、数据泄露等因素都是人工智能安全的首要问题，网络安全一直是人工智能技术服务提供商的主要担忧。当问及计划如何抵御人工智能技术带来的威胁，以确保人工智能实施的安全时，受访者将重点主要放在应用程序接口安全、监控、DDoS 保护等应用程序服务上。
42% 的受访者表示，公司内部正在使用或计划使用 API 安全解决方案来保护数据在人工智能训练模型中的安全，41% 的受访者正在使用或计划使用监控工具来了解人工智能应用程序的使用情况，39% 的受访者正在使用或计划使用 DDoS 保护来保护人工智能模型。
参考文章：https://www.helpnetsecurity.com/2024/06/18/ai-widespread-implementation-challenge/
