大语言模型正当其时。OpenAI去年11月下旬推出的生成式AI聊天机器人ChatGPT已经与千万用户见面,并凭借着自己的优异表现证明人工智能已经做好战斗准备。根据瑞根发布的一项研究,ChatGPT在不到两个月内积累下超1亿活跃用户,也成为有史以来增长最快的消费级应用程序。
但要想让生成式AI模型在企业运营中发挥作用,还必须得为它注入公司自身的针对性信息。ChatGPT的本质是利用互联网信息作为训练数据集,它的优势在于此、短板也同样在于此。如果大家想写份简历,没问题;如果是想整理一篇关于拿破仑或者滑铁卢战役的文章,更是ChatGPT的拿手好戏。
可一旦把任务换成特定公司内的医疗保健计划,或者IT基础设施调优思路,那它就帮不上什么忙了。这些用例的训练需要在企业数据上进行,单靠广泛的互联网信息根本使不上劲。
英伟达IT人工智能副总裁Rama Akkiraju表示,“我们都知道,生成式AI模型特别擅长从公共领域的数据源中学习,并成功通过文本摘要、翻译、编码辅助和图像生成等多种测试。但它们并不了解企业当中的具体业务数据,因为它们根本就没见过。例如,假设我以新员工的身份询问生成式AI模型如何接入公司的VPN,那它肯定会一脸迷茫。或者,如果我问它公司的福利计划包不包含收养补贴,它同样无法回答,因为它没看到过这方面章程。为了将生成式AI引入企业,我们必须对基础模型做定制,传授它们企业的语言和特定技能,以确保它们能够在适当的护栏之内提供更多域内响应。”
本周,英伟达与ServiceNow共同公布的合作伙伴计划就是想解决这个问题。ServiceNow打造的同名云平台将帮助各类组织机构向员工和客户提供服务。此项合作伙伴关系公布于ServiceNow在拉斯维加斯召开的Knowledge 2023大会,主旨是将云平台与英伟达的一系列AI软硬件结合起来,包括用于混合云基础设施的DGX Cloud AI超级计算机和DGX SuperPOD AI本地计算集群,外加英伟达推出的企业级AI软件套件。
通过组合,企业将获得一系列必要工具,利用内部数据(通常不会通过公共网站对外公开的信息)开展训练,从根本上定制生成式AI模型。以此为基础,员工或客户就能随时带着自己的问题向微调后的大语言模型寻求答案。
“如果我问生成式AI模型该如何帮新员工接入VPN,它肯定不能按照其他公司的情况给出太过宽泛的公共答案。相反,它需要根据技术博文或公司内联网中的可用信息给出确切答案。这就是构建定制化生成式AI模型的意义所在,能够根据企业内的信息提炼知识、输出答案。”
关于企业如何使用专有数据训练AI模型的讨论已经持久多年,但生成式AI和大语言模型的兴起让更多公司将这个问题真正提上议事日程。近十年前,英伟达曾将其未来业务增长同AI的蓬勃发展趋势联系起来,如今的GPU巨头显然正一刻不停地为此而努力。今年3月,英伟达表示AI Foundations服务家族中的NeMo已经准备就绪,能够帮助企业轻松通过专有数据增强其大语言模型;还有NeMo Guardrails,可帮助开发人员将安全机制和安全功能引入用户与AI工具的聊天当中,按照既定规则确保整个使用过程不致泄露高权限信息或违反公司规定。
ServiceNow还在其产品中引入更多AI功能,包括本周刚刚推出的Generative AI Controller,用于将ServiceNow实例接入微软的OpenAI Serivec和OpenAI API LLM,以及可根据组织自身数据信息做出自然语言响应的Now Assist for Search。此前,ServiceNow已经与微软宣布建立新的合作伙伴关系。为了更好地访问微软和OpenAI提供的AI工具,这款Controller应运而生,目的当然是充分运用微软注资130亿美元打造的最强大语言模型。
而通过与英伟达的合作,两家公司开始共同研究后续用例,包括IT应用(也是双方最初关注的重点)、解决客户与员工问题、为开发人员提供辅助,以及将NeMo基础模型搬上DGX Cloud与DGX SuperPOD。
Akkiraju解释道,“在IT领域,总有各种不同工作需要完成。其中包括总结IT查询工单,确保部门后续能利用这些信息来解决问题。再就是如何充分利用企业内可用的IT帮助或人力收益等数据,如何以更高效的方式搜索信息内容并回答问题,乃至于怎样构建聊天机器人并以对话方式输出正确响应。此外,还需要考虑如何安排IT和人力服务台处理各种工单,确保员工在正确的时间前往正确的位置并快速解决问题。这,就是所谓自动工单路由与自动解决系统。我们正努力让企业员工能以自助方式解决问题,不必再排队等待支持服务人员一个个前往排查。”
英伟达也参与到这项计划当中,并将自己的专有数据引入ServiceNow平台,创建出生成式AI模型来满足英伟达自身的IT需求。其初步重点是建立IT工单摘要,随后又扩展为客服解决方案。Akkiraju表示,生成式AI模型的应用目标是实现用户交互自动化,解决以往每次交互要占用IT支持人员七到八分钟的低效现实。AI的介入不仅帮助服务人员腾出了精力和时间,更标志着这项技术对办公室工作产生的又一重大影响——既然AI全都能够接手做好,人类员工自然不用再为简单重复的小麻烦而费心。
IBM本月早些时候推出了其Watsonx机器学习产品套件,涵盖硬件、软件、模型、服务等,旨在帮助组织更轻松地将AI与机器学习集成至自有产品和服务当中。此前,IBM公司CEO Arvind Krishna曾在采访中表示,蓝色巨人内部多达30%的后台工作可能会被AI所取代,而且IBM计划在未来五年内减缓对这些岗位的招聘。
英伟达-ServiceNow服务将使企业能够从预训练模型开始,一步步创建自己的定制化生成式AI模型。参考下图可见,企业还可根据实际需求为潜在模型指定不同规模(80亿到5300亿参数)。
Akkiraju总结道,“将这些作为基础模型,接下来就是使用其他不同技术配合特定企业数据进行定制。企业数据将被用于微调模型,引导其适应特定行业的具体要求。举例来说,如果我们引入了IT领域的数据,那么这些定制技术所生成的模型就属于IT领域数据的定制模型。是的,领域模型的塑造重点就在于模型的定制化构建和训练。”
当定制模型准备就绪之后,您就可以将其部署和托管起来,尽情享受AI时代带来的便利和高效。