GenAI继续主导着许多企业的IT项目,三分之二的企业领导人告诉哈里斯民意调查,他们已经在内部部署了GenAI工具,IDC预测2024年在GenAI上的支出将增加一倍以上。
但是,IT领域通常要优先考虑的事项清单并没有消失,安全、成本控制、身份管理、容器蔓延、数据管理和硬件更新等基本面仍然是CIO需要处理的关键战略领域。
很容易将这些视为争夺CIO注意力和预算的相互竞争的优先事项,与董事会对Gen AI承诺的新的、闪亮的机会的兴趣相比,这些相形见绌,但当谈到成功实施这些项目时,事实证明,它们取决于IT企业实施连接、权限和配置管理等基本要素的情况。
星座研究公司副总裁兼首席分析师迪翁·欣奇克利夫表示:“掌握当今IT的基础知识——灵活的多云基础、强大的网络安全、有效的数据隐私和知识产权控制,或许对最终释放AI的承诺、跨应用程序竖井构建强大、开放的数据基础可能是最重要的--是让船保持运转的木板和钉子。”
他说:“人们可能会把这些IT基础知识比作‘吃青菜’——虽然不总是光彩照人,但对IT行业的长期健康和实力来说是绝对必要的,就像均衡的饮食会增强身体一样,强大而现代的IT基础设施也为AI和其他先进技术的蓬勃发展奠定了基础。”
独立研究分析师Sagable创始人安迪·曼对此表示赞同,他指出,有多少IT基础设施的内部运营和基本功能最终被证明是推动AI淘金热的“镐和铲子”。他说:“CIO需要做所有的事情,以使AI工作负载以一种有纪律和卫生的方式良好运行,当你考虑到CIO需要为常规应用程序做的所有屏蔽和处理时,这尤其适用于AI。”
数据尽职调查
Mann说,GenAI尤其对数据安全有特殊的影响。当你告诉你的AI去吸收所有这些数据并重新使用它时,你如何实现数据丢失预防呢?
事实上,出于安全、合规性和效率的原因,CIO将希望仔细管理GenAI可以访问哪些数据,例如,检索增强生成(RAG)正在成为一项关键技术,它可以使LLM在处理你自己的数据时变得有用——但你不想输入所有数据,这不仅仅是准备一个比你需要的更大的数据集的成本,这需要一些仍然不常见的专业知识,并要求高薪,还包括你教给模型的东西。输入你的整个Slack或Teams历史,你可能会得到这样的回应:“我明天再做这件事”,这对人类员工来说是非常合适的,但并不是你对GenAI系统的期望。
微软MVP和Rencore合作伙伴管理总监Christian Buckley警告说,像Copilot这样的AI工具将暴露企业信息管理方法中的缺陷,例如企业数据和元数据的结构、信息体系结构、清理和了解其中的内容,以及许多企业在权限管理和数据清理方面是多么松懈。
随着数据存储成本的下降,许多企业正在保留不必要的数据,或者在迁移或重组后清理过时或不再有用的数据。巴克利说:“人们不会回去清理垃圾,因为这是没有成本的——除了你的风险状况和你的搜索性能下降”。他警告说,在不考虑数据卫生的情况下引入GenAI功能,当人们没有做好准备工作以使其最佳性能时,他们将感到幻想破灭。
当微软推出Delve时,同样的问题也暴露了出来,在此之前,快速集成在2010年为SharePoint带来了强大的搜索功能。他说:“当我们开始看到搜索在SharePoint中真正起作用时,人们会抱怨它不能正常工作,但事实就是如此,它所做的是暴露出你对数据缺乏管理。我听到人们说,‘这违反了我所有的许可’,不,它是在你有洞的地方浮出水面的,你想在你的数据中使用AI来拥有更强大的搜索能力,并且不确定你是如何企业这些数据的吗?”
另一个问题是GenAI工具和用户看不到应该包括的信息,因为元数据标记和敏感度标签没有正确应用到数据上。
无论哪种方式,管理不善的数据都会引发合规性和保密性问题,比如外部合作伙伴可以访问Gen AI工具,该工具暴露了本应仅在内部提供的信息。毕竟,涉及更多外部用户的项目需要仔细检查正在访问哪些信息,以及这种外部访问是否仍然合适,例如,如果你是一家跨国公司,在法国的员工根据澳大利亚的养老金或育儿假政策从人力资源机器人那里获取信息,即使是内部使用也会造成混乱。
巴克利说:“如果你不知道你有什么内容,它在哪里,谁可以在内部和外部访问它,什么被分享,以及它是如何标签的,你怎么能说你已经准备好治理AI呢。从治理的角度来看,你需要跟踪人们在做什么,在哪里做,以及他们是如何做的,而这一点将会不断发生变化。”
容器和证书
特权管理依赖于身份管理,这是另一个需要继续关注的领域。随着容器生态系统的发展,更多地采用Kubernetes需要新的技能,许多CIO仍在加快管理容器化应用程序的环境,这些应用程序与虚拟化有显著差异 - 随着企业决定如何应对博通对VMware许可方式的重大变化,这一过渡可能会在今年加速。
IAM平台提供商AppViewX的首席解决方案官Murali Palanisamy表示,这也意味着需要管理更多的机器身份。他说:“数字化转型作为一个整体推动了互联设备、云服务、原生云和集装箱化应用的使用显著增加,所有这些额外的计算机、工作负载和服务都需要受信任的身份,这扩大了对计算机身份管理的需求。”
物联网、软件供应链安全 - 尤其是通过代码签名来缓解这一需求 - 以及将你的数据用于GenAI正在增加对安全访问所依赖的TLS证书和私钥的使用。Palanisamy补充道:“每当应用程序或机器相互通信时,它们中的绝大多数都使用TLS证书来建立信任,向系统识别彼此的身份,以及安全地验证和加密通信。”
他认为,保护这些机器身份至关重要,管理它们不能再是一个临时的、手动的过程,特别是在谷歌提议将TLS证书的有效期从398天减少到90天的情况下,这需要更快的更替,还有其他监管变化也需要注意:美国证交会2023年12月起的新网络安全规则,欧盟扩大的网络和信息系统指令(NIS2),以及全面转变,使安全标准基于风险,而不是像支付卡行业数据安全标准(PCI-DSS)更新到PCI 4.0那样。
Palanisamy补充说,管理计算机身份也需要成为核心安全重点领域,依赖于自动化、自动注册和取消配置来控制对私人和敏感数据的访问。“当数据在传输过程中需要保护时,机器身份扮演着至关重要的角色”,他说,“随着AI项目的发展,管理计算机身份对于确保信任以及安全的身份验证和加密至关重要,这样才能管理和控制对正确数据的正确访问,从而确保敏感和私人数据的安全,人们很容易认为云项目的优先级低于闪亮的新AI计划”,但他表示,这些项目实际上是基础性的。他补充道:“速度和敏捷性是AI项目成功的必要条件,因此从一开始,安全就需要融入到AI项目的底层云基础设施中。”
成本控制
云服务的Finop和成本控制仍然是优先事项,由于有如此多的GenAI使用依赖于云AI服务和API,CIO将希望考虑预算和自动化,特别是对于AI开发和实验。
“如果你有100个人在做AI实验,只有一个人忘了取消配置他们的实例,你就会收到账单”,Mann说,还应该监视生产工作负载,看看你是否可以使用用于管理其他工作负载成本的相同策略和工具,缩减到更小的实例、更便宜的LLM或更低级别的许可。“管理Copilot不仅仅是权限管理”,他补充道,“人们想知道他们支付的许可证是否被使用了。”
正如其他云工作负载需要根据许可证和API调用为企业提供的价值来证明它们的成本是合理的一样,GenAI项目也需要评估它们是否真的提供了它们承诺的工作效率提高和创新。
“我在等待第一位因让AI运行太快、太久而被解雇的CIO”,曼恩说,这是CIO的基本拦截和处理纪律:我的投资组合是什么,有什么价值,我花了什么钱,我得到了什么,以及管理这些工作负载的利用率和质量,这种ITSM、ITIL风格的纪律和投资组合管理将会卷土重来,因为你肯定需要这种级别的纪律来应对这种新的工作负荷。
但在其他领域,IT团队将寻求增加预算和支出。
加速硬件更新
随着Windows 10将于2025年到期,CIO将计划在未来18个月内迁移到Windows 11,默认情况下,要获得承诺的安全改进,意味着投资于配备更新一代CPU的新PC,这些PC具有正确的指令,可以在不影响性能的情况下支持安全功能。
越来越多的此类设备将包括神经处理单元(NPU)或类似的专用硬件,以加快设备上的AI工作负载,无论是实时编辑视频通话还是在Windows 11中运行Copilot,但快速的硬件进步可能意味着CIO们需要为未来更短的硬件更新周期做预算,以保持最新,跟踪哪些员工拥有合适的PC硬件的资产管理,可能是从AI获得承诺的生产率提高的关键。
准备好你的数据中心可能意味着更多的投资,这不仅仅是你能找到GPU的价格。虽然大多数LLM将在云中运行,并可通过API访问,但要使GenAI工具对业务有用,需要将它们连接到你自己的数据源。
发展你的网络架构以减少延迟并安全地提供更好的连接 - 无论你是通过5G、Wi-Fi 6和7实现这一点,还是新兴的卫星连接 - 是支持混合和远程工作的关键,但AI将进一步推动安全的边缘计算和网络需求。
此外,数据管理软件公司Datadobi的产品营销副总裁Steve Leeper表示,不断下降的价格正在推动向全闪存对象存储系统的过渡,提供数据库性能,这将有利于处理需要快速吞吐量和可扩展性的AI工作负载所必需的大数据集,还将迎合永无止境的数据胃口和AI驱动的运营的快速访问需求。
他补充说,总的来说,CIO需要考虑AI处理管道的硬件基础设施,从AI处理的存储数量和类别、互联网络和GPU场开始,还有数据处理:识别合适的数据集,在处理流水线上的点之间快速准确地重新定位数据 - 这意味着没有静默的数据损坏 - 并确保AI处理结果也被重新定位到适当的位置和存储类别。
Leeper说,GenAI的数据集不会总是巨大的。“将会有大大小小的数据集”,他说,其中一些数据集包含关键数据,根据企业的治理策略,这些数据需要使用本地资源进行处理,管理AI对这些数据集的访问依赖于CIO非常熟悉的那种传统IT基础设施管理,因此,将对这些基础设施的投资作为今年的优先事项将对两者都有回报。
“只有当我们运用我们所拥有的纪律时,这些问题才能得到解决”,曼恩补充道,“但它们往往得不到解决,因为没有人考虑到更长期的影响,所以没有所有权”,但这种情况可能正在改变。2023年初,Gartner报告称,只有15%的企业已经拥有对数据进行分类和优化的数据存储管理解决方案,但该分析公司预计,到2027年,这一比例将至少升至40%。