在GenAI的成功没有固定框架,且几乎没有成功的生产案例可供借鉴的情况下,IT领导者们即便开始关注一些最佳实践,也仍然只有粗略的路线图。
对于IT领导者而言,将GenAI的潜力转化为商业价值的道路仍然陡峭且令人畏惧,但GenAI路线图的关键组成部分——数据、平台和技能——正在不断发展并变得更加明确。
这是上周在MIT举办的Big.AI@MIT活动中,“GenAI在商业中的下一步”小组讨论的关键要点,该讨论由埃森哲的首席AI官(CAIO)兰·关(Lan Guan)主持。
关与来自标普全球(S&P Global)和康宁(Corning)的AI领导者一起讨论了将GenAI模型从概念验证转移到生产中所面临的巨大挑战,以及使GenAI模型真正对企业有价值的基础。
许多CIO都发现自己处于这样的境地,正如关所指出的,根据埃森哲的一项调查,只有不到10%的企业将GenAI模型投入生产。
“98%的商业领袖表示他们想采用AI,但很多人只是不知道该怎么做,”关声称,她目前正在与沙特阿拉伯的一家大型航空公司、一家大型制药公司和一家高科技公司合作,在公司内部实施GenAI蓝图。
她表示,尽管在哪些方法有效、哪些方法无效方面已经吸取了宝贵的教训,但IT高管们最想要的、经过压力测试的GenAI参考架构仍然寥寥无几。
进展与挑战
关表示,埃森哲与沙特航空的工作涉及一个“旅行伴侣”模型,该模型远不止是一个在线旅行社、预订代理或旅游指南。这家与卡塔尔航空竞争的航空公司正指望通过AI助手和大型语言模型(LLM)来提高预订量并扩大其在不断增长的市场中的份额,她说道,并补充说这个运行了六个月的模型已经吸引了300万访问者,并处理了一些预订,但其价值更具战略性。
“他们的主要意图是改变对品牌的认知,提供更好的体验,”她说,“我不能说我有很多这样的例子。”
康宁的首席数据与信息官(CDIO)索米亚·西塔拉姆(Soumya Seetharam)表示,该公司已经在数据之旅上探索了几年,超过70%的业务交易数据已被录入数据平台。但她强调,这只是结构化数据。
“说实话,我们面临的最大挑战是非结构化数据,”西塔拉姆说道,并指出康宁现在必须“找出如何对非结构化数据进行分类,并将其转化为有用的形式”。
标普全球的首席AI官巴维什·达亚尔吉(Bhavesh Dayalji)补充说,将所有类型的数据结构整合到GenAI模型中是一项挑战。为此,这家金融信息和分析公司正在开发应用程序编程接口(API),并研究所有“将你的数据连接到大型内存模型”的方法。
标普全球还创建了评估集,不仅用于测试GenAI模型的幻觉问题,还用于确保有一种通用的方法来评估结果和效果。作为金融服务和商品市场的专家,必须有标准的评估方法,他说道。
“然后,我们需要将整个金融服务社区聚集起来,共同评估GenAI模型和解决方案,”同时也是标普全球AI创新中心Kensho首席执行官的达亚尔吉表示,“我认为,通过深入研究数据,我们可以找到某种解决方案。”
路线图浮现
埃森哲的首席AI官为希望最大化GenAI投资回报率(ROI)而不陷入“垃圾进,垃圾出”失败境地的CIO们提供了三条关键建议。
首先,关在接受CIO.com于小组讨论后的私人采访时表示,要清理所有企业数据,并妥善准备以用于基础GenAI模型。
“他们没有清理数据,”她警告说,尽管许多CIO正在应对数据挑战,但大多数人都没有为GenAI妥善准备数据。“专有数据是你最大的竞争优势。”
其次,关表示,CIO必须采取“基于平台的方法”来开发和部署AI。例如,企业可以在主机上运行GenAI工作负载,但大部分活动将在公有云或本地私有云上运行,她说道。
“现在是他们重新审视现有企业和数据架构以及AI的时候了,”关表示。
“基于平台的AI方法强调构建一个可扩展、可重用的基础,该基础随着组织的发展而发展,而不是为单个用例开发成本高昂、孤立的解决方案,”关说道,她支持建立标准来测试模型结果是有必要的这一观点。
“通过识别用例之间的共性——如数据管道、模型管理和应用程序——组织可以创建共享组件,以简化部署、减少冗余,并加速AI解决方案和企业重塑的价值实现时间。”
埃森哲已经开发了自己的AI Refinery——一种基于平台的GenAI模型创建和部署方法。
“从实际意义上讲,AI Refinery是一种认知架构,具有内置的智能和上下文,AI代理可以在其中进行推理、规划,并与人类一起动态执行任务,”关说道,“利用大型语言模型,该系统能够解释人类意图,并根据经验进行适应,整合组织知识以做出更好的决策。”
最后,她建议,CIO必须确保他们拥有一支稳定的、合格的AI人员队伍,以及一系列用于构建和部署GenAI模型的专业技能。大多数CIO在提升员工技能或培训员工方面的速度都不够快,而且包括具备GPU基础设施规划技能的数据科学家和软件工程师在内的各种人才都很稀缺。
关自己六年前曾是埃森哲的一名数据科学家,她开始学习软件工程技能、应用程序开发技能和基础设施规划技能,为GenAI做准备。她表示,寻找人才是“我也正面临的挑战”。
在峰会上,众多AI初创公司和解决方案提供商出席,展示了声称能够解决CIO和首席分析官(CAO)面临的各种AI挑战的解决方案。在另一个小组讨论中,来自New Technology Ventures和Underscore VC的风险投资家表示,用于创新的投资资金充裕,但承认市场仍处于炒作周期中。
然而,正如风险投资小组讨论的主持人所指出的,大多数参与者都知道GenAI是一项颠覆性的技术。
“人们认识到这种转变是多么具有震撼性……人们正在涌入,”GenAI初创公司Collective[i]的联合创始人兼风险投资人海蒂·梅瑟(Heidi Messer)表示,该公司提供财务预测服务,“我们确实需要透过噪音来阅读,这很棘手,但在未来五到七年里,将会创造[巨大的]价值。”
与此同时,标普全球的达亚尔吉表示,企业必须超越专业技能的范畴,设想员工与GenAI模型和处理琐碎任务的AI助手互动后将产生的新角色的所有方面。
“我们继续教育我们的员工,确保他们了解AI对他们角色的影响以及他们如何履行自己的职责,”他说,“其次,你如何为他们提供工具来做不同的工作和创新?”