在AI的动荡中,技术迅速涌现,初创企业叫嚣着要引起注意,超级巨头正在争先恐后地争夺市场份额,即使是最精明的CIO,这种环境也会削弱他们的决策能力,但无论是否准备好,都必须做出具有深远影响的选择,原地踏步不是明智的选择。
“AI发展很快,所以我们不想耽搁,我们需要准备好回应我们的首席执行官,以解决AI方面的问题,”Covanta公司的CIO Srini Gudipati说,该公司专门从事可持续材料管理,包括大规模回收。
Forrester Research负责新兴技术的副总裁Brian Hopkins对此表示赞同。“我们不可能以足够快的速度筛选这一切,但你不能袖手旁观,机会太大了,这其中有很多风险,也有很多地雷需要绕开。”
有一件事是肯定的:未来几年将有大笔资金押注于AI技术。根据IDC的数据,AI的核心IT支出将从2024年的2356亿美元增长到2027年的5210亿美元。
直面风险
进行任何押注或投资的第一步是了解自己抵御风险的能力。Webster Bank的CIO Vikram Nafde表示:“我们对AI技术的采用采取了谨慎且经过深思熟虑的方法,与我们作为一家传统金融机构的适度风险偏好保持一致。”Webster Bank是一家拥有超过750亿美元资产的商业银行,通过商业银行、消费者银行和HSA Bank提供数字和传统服务。HSA Bank是一家专注于医疗保健的金融服务提供商。
当谈到AI时,Nafde看到了选定的供应商、用例的商业价值以及该计划的成本方面的风险。CIO已经制定了应对这三个问题的战略。
对于供应商来说,Nafde是从建立超标度程序开始的。“我们想要一个由大型老牌企业组成的生态系统,”他表示。考虑到与Webster Bank的现有关系,这包括AWS和微软。尽管Vikram Nafde倾向于与大型参与者合作,但他也在寻找那些开发了在超级定标器上运行的GenAI工具的较小公司。一家这样的公司已经开发了一种工具,可以根据之前的互动和其他市场数据预测客户的意图和行为。
为了找到有希望的用例,Webster Bank征求了数十项提案,并决定从三个可以带来切实好处的提案开始,该银行目前正在开展以下概念验证计划:智能搜索内部工作效率,利用GenAI功能实现自动化,以协助银团商业贷款工作流,以及客户流失预测。
为了应对第三个风险领域,成本,Nafde正在带头努力赋予内部员工必要的技能、能力和工具,以在内部开展AI倡议。“通过投资于全职员工的发展,并为我们的技术人员配备必要的专业知识,我们的目标是最大限度地减少对外部顾问的依赖,并最大限度地提高我们从内部推动创新的能力”Nafde说。
在Covanta,Gudipati正在逐个案例的基础上实施AI,专注于一次解决一个问题,实现完全在经过验证的技术的能力范围内。他表示:“我们正在谨慎推进,因为大型语言模型的兴起带来了新水平的数据安全风险,在过去的几年里,我们一直在使用开源模型开发我们自己的内部AI能力,这确保了我们的任何敏感数据和知识产权都不会被外部提供商利用。”
Covanta的一个概念验证试图通过识别进入Covanta设施的丙烷罐等物品以及无害的可回收物品来降低将危险材料带入Covanta设施的风险。Gudipati说:“我们正在探索的技术使用AI和X射线技术分析进站卡车,以在丙烷罐被Covanta的巨大粉碎机撞击爆炸之前发现丙烷罐的特征。”这是一个巨大的危险,代价也是巨大的。根据Gudipati的说法,消除火灾的危险,每小时的成本约为1万美元,应该会使实施工作超过其本身的成本。
在另一个实施中,Covanta正在使用AI来检查潜在客户的网站,以衡量一家公司的碳足迹,以及一家公司是否有资格获得联邦能源信用。“我们的数据团队在亚马逊云上使用Gen AI来探索可持续发展指标,因此,这是一个创收的方面”他说。
在另一个实现中,Covanta正在使用Salesforce的CRM案例管理工具来创建发票,并使客户能够直接与Salesforce机器人对话,以回答任何发票问题,Covanta还使用AI对合同进行法律审查,检测并突出可能的风险点。“这些都是默默使用工具的好例子”Gudipati说。
公共部门的警示
传统上,作为最不愿承担风险的组织之一,政府机构必须在公众的监督下运作,而公众对不会带来回报或将公民数据置于风险中的项目几乎没有容忍度。
哈里斯县通用服务和哈里斯县CIO Sindhu Menon表示:“在哈里斯县,我们将数据的机密性、完整性和可用性保持在我们设计和解决方案架构的前沿。”哈里斯县是得克萨斯州最大的县,也是全国人口第三大县,该机构为休斯顿地区的470万公民提供服务。
像Gudipati和Vikram Nafde一样,Menon和她的团队正计划使用超比例作为一种相对低风险的选择。虽然是一个多云环境,但该机构的大部分云实施都托管在Microsoft Azure上,其中一些托管在AWS上,一些托管在ServiceNow的311公民信息平台上。根据Menon的说法,哈里斯县大约有六个基于AI的概念验证处于规划阶段,其中一个现代化了许可证处理,另一个现代化了司法流程。
打好基础
为了开发PoC实施,Menon和她的团队正在建立一个实验室,预计将于2024年3月首次亮相,用于在推出之前测试AI工具,该实验室位于县办公楼内,将吸引来自多个部门的成员,包括该县的数据团队和建筑团队。
他说:“在全县参与测试和参与的人非常感兴趣,我们的目标是将团队聚集在一起,并提供一个安全的环境来学习和测试解决方案。对于一个典型的项目,可能会涉及目前托管在Azure上的雪花数据湖,Menon强调数据的质量是至关重要的。AI工具依赖于这些解决方案中使用的数据,需要良好的数据管理实践才能获得预期的结果和AI解决方案。”
同样,Nafde组建了一个由Webster Bank首席企业架构师兼首席数据官领导的大约20多人的AI治理团队,其中包括技术专家、风险和合规工作人员以及律师,该行AI团队的一个关键关注点同样是数据质量,为此,该集团为世行的Snowflake环境实施了数据质量和治理工具。
对于Covanta的Gudipati来说,第一步是通过建立一个强大而全面的数据基础,使公司“为AI做好准备”,在此基础上可以实施AI技术和服务。
Gutipati解释说:“AI受到高质量数据的支持,因此我们使用Talend创建了一个全面的数据管理结构,将Snowflake用于我们的运营数据存储和仓库,然后,我们在AWS上实施了一套全面的AI工具,这些工具在本地很好地协同工作,为我们提供真正的AIOps,我们将亚马逊广泛用于我们的基础设施和数据存储,所以与他们合作是有意义的,”Gudipati继续说,“我们完成了基础和基础设施,在此基础上,AI可以真正发挥其全部潜力。”
锁定风险
由于运行AI算法并不便宜,每个项目都面临着成本高于预期的风险。
“AI引擎的运行成本很高,因为它们消耗的处理器比传统AI多得多,所以我们必须关注成本”Gudipati说。
Vikram Nafde对此表示同意。“人们没有意识到AI模型必须搅动如此多的计算资源,他们不知道这可能要花多少钱。”Vikram Nafde说,“我们有计算服务的成本触发器,我们相信我们能够管理运营成本,因为我们将不断评估成本。”
向云服务提供商承诺,包括超级巨头,并不是没有被锁定的风险,虽然从一家云提供商转移到另一家云提供商是有可能的,但这样做的劳动力和费用令人望而生畏,可能会抵消任何潜在的节省,例如,Snowflake可以在Microsoft Azure或AWS上运行,因此可以从一个版本迁移到另一个版本。“我不认为这是不可能的,但你需要做一些基础工作,提前考虑一下是件好事。”Gudipati说。
别光站在那里,做点什么吧
对于CIO来说,以前很少有技术伴随着GenAI而来的行动的必要性。风险缓解策略面临着高层管理人员的压力,他们不希望自己的公司落在后面。
“这可能是历史上第一次,不是技术人员的高管可以看到一些东西,并对此感到兴奋,因为他们可以参与其中。”Forrester的Hopkins表示:“这是董事会层面兴趣的转折点。”
在金融服务领域,Nafde认为支付公司Strike和移动应用MX等初创企业可能会利用AI来接管客户关系。“用户行为可能会发生很大变化,以至于人们不会想到银行,而是他们正在使用的支付应用程序,”Vikram Nafde说,“金融技术公司和初创公司将利用AI,要么超越老牌公司,要么筋疲力尽。”
然而,与初创公司不同的是,老牌公司不能冒险承担全部押注于AI可能带来的损失,他们面临的挑战是引导一条能够产生底线结果的中间路线。Gudipati说:“我们不会告诉全世界我们是一家基于AI的公司,但我们会把它当作解决日常问题的工具。”