对话华为云马会彬:AI原生应用变革,本质上是一场「从1到 0」的创新
嘉宾 | 马会彬
编辑 | 云昭
出品 | 51CTO技术栈(微信号:blog51cto)
进入2024年,业界对于生成式AI的注意力开始转向应用层。AI编程领域的Cursor、AI生成视频领域的可灵、自动驾驶领域的Robotaxi等,都取得了很大的突破。据有关媒体报道,2024年创投界在AI应用层上的投资规模整体超过了模型层。
这种转变的背后,折射出业界对于大模型的认知发生了新变化。为什么AI应用会成为今年的焦点?
华为云高级技术专家马会彬对此表示,“这背后是因为仅靠大模型难以实现商业闭环。”
马会彬认为,这一轮大模型所带来的AI原生应用,有着之前的传统应用难以实现的三种关键能力:生成能力、推理能力和自然交互能力,从而产生一类新形态应用,如AI助手类应用、具身智能机器人等。然而,在这场AI原生应用变革中,对于组织而言,最大的障碍并不是技术,而是人的思维和认知。
“在大模型时代,我们需要从1到0的逆向思考。当我们从1到0反向思考,你会发现通过大模型的技术,有机会以低成本解决一个高价值的问题的时候,你就会毫不犹豫的去做。”
而这种逆向思考,在华为云内部已经成为了AI实践创新源源不断的驱动力。马会彬告诉我们,在内部已经形成了“AI First”的文化,同时有专门的组织来负责顶层设计,制定总体目标和遵循原则。“在这个顶层设计之下,所有的部门都要去思考:如何引入和运用AI技术去解决自己的业务问题。”而在实践层面,华为云也形成了一套“五阶八步十二检查点”的实践方法论。
在《AIGC实战派》第20期的直播中,我们与华为云架构与技术创新部高级技术专家马会彬围绕“AI原生应用及产品重构”长达150分钟的深入讨论,涉及大模型行业的投资趋势、AI原生应用变革的现状、企业如何切换到AI原生应用赛道、华为云内部的“AI Fisrt”的实践思考等。以下是摘取的精彩观点:
- 我们需要从1到0反向思考,即:如果用大模型做应用的话,我会怎么去做?我有哪些本质性的变化?创新地方在哪里?
- 传统软件开发是以人为中心的协同是开发,AI原生软件是以数据为中心的生成式开发。
- AI原生应用,大家要做的是“sell the work!”,交付的是业务结果本身,而非软件的功能、工具。
- 所有面向内容生成的AI场景,不再是以前的编辑器,它是一个AI原生的应用,需要按应用的逻辑去做。
- 一开始要关注的不应该是准确率的问题,而是整个系统能不能够转起来。
- 有一点非常重要,你要逐渐形成自己的整个框架和流程,并保证AI能力是迭代向上的。
- 我们看到有很多的指标,有人说80%准确率,有人说90%准确率,其实背后的东西差异很大,最主要还是根据自己的情况来选择。
- 在向AI原生应用演进时,组织需要思考三个问题:是否需要训练自己的大模型,识别高价值场景,构建相应的组织和能力。
下面是对话的整理内容,供各位翻阅。
1.51CTO:进入2024以来,您关注到最近大模型业内发生了怎样的变化?
马会彬: 宏观上,我看到一篇报道说今年的创投资金在AI应用层的投资规模超过了大模型这一层,这是一个总体的统计。大家都知道,去年业界谈论大模型比较多一些,今年可能大家都转向了应用这一层。大家逐渐意识到,单独大模型这一层比较难以实现商业闭环,因此,整个业界的注意力就从模型转向场景和应用这一层,这是一个整体的趋势。
从微观的具体场景上看,今年涌现出了很多AI应用层的创新和突破,比如AI辅助编程领域Cursor、国内的AI生成视频应用、大模型驱动的具身智能机器人等。而且现在有了大量的基于ToC或ToB的AI应用,大家开始在日常生活、工作中逐渐使用起来了。
这是一个潜移默化的变化,最后发生质变时可能大家都很难意识到。
2.51CTO:我们如何理解AI Native应用?
马会彬:简单来讲,AI Native可以理解为“拟人化”,包括大模型的深度神经网络、深度学习算法, 就是模仿人的大脑的神经元及神经元的连接机制;此外,大模型的推理机制也是拟人化的:生成能力、推理能力和自然交互能力。
这三个能力都是拟人化的“智力”,有了这三个能力之后,首先会出现一批新形态的应用,即大家所说的各种AI助手类的应用,又可以分为两类,一类是面向数字世界的助手就是我们刚才提到的知识工作者的助手,而第二类就是面向物理世界的助手,即具身智能机器人;他们都可以实现对人的辅助或者部分代替,人的天性是懒惰的,总有一些不想自己做的事情,就可以交由拟人化的智能设备、智能应用来帮你去做;上面这两类,我们称之为AI原生的应用。
除了AI原生应用,还有一些传统应用,例如原来的CRM、MES等,它们的功能都还存在,比如CRM,原来的订单功能还在,但是AI会重塑传统应用。任何一个应用都可以分解成两层,比如网银,它的底层可以被视为一个记录系统,记录每一笔账,这个记录系统是稳定的,但是上层的交互系统会被AI重构。大家看到大量的前端AI助手类的出现,主要是改变了交互和协同这一层。
AI重构的不止传统的软件,还包括偏硬件的一些设备、工具,它们也会叠加一些AI的能力,成为AI使能的产品。
3.51CTO:具身智能也是一个新颖的词汇,您如何看?
马会彬:从能力讲,具身智能有两大核心能力,第一个是移动能力,从A点移动到B点,它可以自主寻址,自主移动。另一个是操作和执行能力;如果要达到真正像人一样,能够在开放场景、执行开放任务,必须有个具身智能的大脑系统。目前相对而言,本体的移动能力已经很强了,但现在比较复杂的两个点:一个是上肢的精准协同和精准控制,因为操作主要依赖手的灵活性;另一个则是大脑,因为在一个物理空间里面,既要移动,又要执行操作,这个挑战是比纯语言模型复杂许多。
4.51CTO:回过头来,我们如何看待这波大模型技术对行业带来的影响?
马会彬: 现在的大模型,跟之前的AI模型相比,在架构上有着本质的区别。因此业界也通常分为“判别式AI / 经典AI”跟“生成式AI”。
此外,模型的场景泛化能力也有着有很大的差别。相对来讲,经典AI一般都是针对一个特定的场景,用精准的标注数据去做训练,而大模型是面向通用的场景使用非标注数据训练。
所以现在需要大家对当前的软件、工具、算法进行反向思考,也就是“从1到0的反向创新”。之前比较多的是从0到1去构建一个新的东西,但现在的话,无论是工具、软件还是其他,日常需要用到的东西基本上都有。所以,在大模型出来之后,需要反向从1到0思考,如果用大模型来重构的话,我会怎么去做?有哪些本质性的变化?创新的地方在哪里?
在逆向思考的过程中,就会发现很多有趣的问题:原来可能比较复杂的,比较困难,或者是说成本比较高的障碍,也许用了新的方式之后,就不再是障碍了。
譬如乘用车的自动驾驶,就是一个比较经典的例子。乘用车自动驾驶在此前很多年,一直没有太大突破。现在大模型出来之后,很快就在自动驾驶领域涌现出了端到端的神经网络大模型,比如VLM、VLA。它本质上也是拟人化的,因为它不再是通过基于感知、规划等一个个小算法去写车辆的操控动作,这种模式有一个很大的问题,就是现实中算法要应对的场景特别多,你会发现算法中corner case和bad case根本枚举不完,很难提升到更高级别的智驾能力。
切换到端到端的大模型解决方案以后,很快就发生了本质的变化,它可以拟人化地学习人的感知和操控,通过大规模的数据训练,不需要再去考虑corner case、bad case就能学习到通用方法。例如特斯拉宣称FSD v12基于端到端的神经网络大模型方案,不仅减少了30万行C++代码,而且,整体的驾驶能力和水平也有了本质的提升。v12版本之前,基于小模型算法的方案,其自动驾驶的使用增长曲线是比较平的,而v12之后,这条曲线就变得非常陡峭。
以此类比,其他的业务、应用也有很多采用大模型的方法进行重构后,应用的价值增值也非常显著,据业界一个统计,一些软件的可能增加了100%甚至120%的新价值。
所以,当发现“从1到0”反向思考当前的业务,就有机会以低成本解决一个高价值的问题的时候,就会毫不犹豫的去做。
5.51CTO:大模型作为确定性的趋势,那么切换到这条赛道上,企业还有哪些关键问题需要考虑?
马会彬: 放到企业视角来讲的话,我认为需要思考三个根本的问题。
首先,一个公司或组织需要考虑是否需要训练自己的大模型,是从零开始训练,还是基于已有的模型为基座来做增量训练、后训练或调优,这跟你的业务特征和私域数据有很大的关系。
第二个问题,则是要识别出行业的高价值场景。对于组织或行业来讲,AI改变它的场景是什么?这是要去思考和定义的。
第三个则是组织和能力的问题,就是需要怎样的组织和能力匹配这个战略。
这三个问题如果都有答案了,就可以去具体评估原来业务中哪些依然是有效的,哪些需要被重塑的。
业界讲“优势抵不过趋势”,大模型是确定性的确实,我们肯定要顺应趋势去看。当然,企业内部其实还是需要有一些框架和方法论的东西来指导,因为实际可投入的资源总是有限的。
所以,在业务中引入大模型,具体怎么去落地,相对来讲是一个比较严谨的事情。在华为云内部,我们是有相关的方法论和框架来辅助客户去做决策、评估、场景选择等,它并不是说完全一个拍脑袋的事情。
6.51CTO:在华为云内部,是如何考虑怎样引入这场AI原生变革的?
马会彬:概括来讲可以分为两层,第一层我们称为确立AI First 的思维范式。在公司内部,提供了相关的学习、培训,而且从部门、组织的角度都要去思考“all in ai”这件事情在自己的业务领域上要怎么去做,如何用 AI Native 的技术和方法来重构业务、重塑流程;第二层,我们称之为AI Native的落地实践,刚才我提到了用于指导实践的方法论,即“五阶八步十二检查点”,比较系统详细,这里就不详细展开讲了。
在华为内部,华为云作为内部管理和各产业的底座平台,会为内部的研、产、供、销、服、行政、后勤、财经等提供技术平台。这些部门利用华为云的平台和技术就积累了大量的场景化业务资产,我们把这些资产称为“经验”。
现在华为云的aPaaS,定位就是“经验即服务,让优秀得以复制”。目标就是将其中可以被重用的部分场景化业务资产进行产品化,服务于我们的内外部客户。我们在AI实践方面开始得比较早,我们希望能够把内部积累的AI经验及成果提供给客户和伙伴。
7.51CTO:从业务视角上看,如何思考“现在的应用都值得重新做一遍”?
马会彬: 业界很多大佬都有类似的说法,从趋势和方向性来讲确实如此。但作为架构师,首先要问why 和 how 的问题,即为什么要重做一遍,以及如何去重新做一遍;我觉得可以从业务视角和技术视角两个维度去分析。
从业务视角讲,就是改变了传统软件的交付和使用方式,以及软件的商业模式。之前的软件不管是哪一种类型,HR软件也好、PS软件也好,都是工具软件,即需要专业的人去操作这个软件才可能完成业务功能。然而,这里的操作有相当的门槛要求,必须是行业或领域的专业人才或者专家,必须接受一定的培训学习才能完成。
基于大模型的软件系统提供的则是“sell the work!”,交付的是业务结果本身,而非software。
大模型是知识和经验的压缩,如果能把领域顶级专家的经验和知识压缩到模型里面,或者内化到AI原生的应用中,它能否在一定程度上代替这个专家完成对应的操作?所以交付的不再是一个工具,而是更直接的业务结果。
例如一个画图软件,以前你必须得画才能得到作品,现在你只需要告诉你要什么东西,它直接给你生成了。再比如自动驾驶的例子,现在已经出现“出行即服务”的案例。
8.51CTO:华为云具体是如何通过aPaaS赋能AI原生应用的,它提供了哪些服务和能力?
马会彬:我先简要介绍一下华为云的服务构成,这样大家就能理解华为从全栈的角度是如何构思的。华为云的slogan就 “一切皆服务”(Everything is Service),可以分为三层。第一层是基础设施即服务,就是常说的IaaS,这个大家比较熟悉。第二层是技术即服务,即PaaS,包括数据库、中间件、大数据,以及AI大模型等。基础设施即服务和技术即服务都是相对标准化的产品,而第三层“经验即服务”,更靠近业务场景。中文的“经验”一词,英文可以对应到两个词:一个是 “expertise”,就是解决某一个问题的能力,另外一个词即“experience”,就是有没有经历过一件事情,中国人常说“行万里路”等,你对一个事情的实践就是“experience”,这两方面加起来才是“经验”的核心。
那么,华为云的“经验即服务”中的经验从哪里来?它的构成是什么?第一个来源就是华为的内部实践;第二个来源是来自于生态伙伴。“经验即服务”从产品构成来讲可以分为三层,第一层是AppStage应用平台,这是一个围绕应用生命周期的一站式开发管理平台。业界有个专业名词叫IDP(Internal Development Platform),就是所有大型组织在做研发的时候都有一个内部公共平台,因为在工具链之上,还会有架构规范、技术规范、安全加固规范等,而要把这些规范落实到具体的开发活动中,就必须把它内化到的研发流程、预定义模板、框架包等各种细节中去。
这个平台承载了围绕应用构建、开发、测试等一系列活动的build-in经验资产。在这个平台之上,有三类不同的应用对象,分别为IT应用、移动APP应用、以及现在的AI原生应用。面向这三个不同应用,在AppStage平台上构建了两个引擎,一个是AI原生的应用引擎,就是面向AI原生应用的工程体系,包括模型中心、知识中心、Agent构建、安全合规能力,此外还有一些内化的经验资产,比如模型、数据、意图识别等的经验化等。其二,就是AI原生数据引擎,即如何把企业结构化的和非结构化的数据,转换成使用户大模型及AI应用所能够消费和使用的知识。
在这个平台之上,我们有基于业务场景化资产孵化的6个Koo系列产品,包括KooPhone、KooDrive、KooMessage等,它们也是首先进行AI原生化重塑的,因此也就具备了AI原生的智能营销、AI原生的云终端、AI原生的内容中枢等。
第三层是面向行业的场景化资产,我们也称为“行业aPaaS”,目前有面向政务的事件中心、面向园区、设施管理的设施aPaaS等。
9.51CTO:在华为云内部是怎样为AI应用设定进一步推广的准确率标准的?
马会彬:现在的做法是不直接使用准确率或满意度这两个指标,因为它们都比较难以准确评估。比如你说准确率要达到60%才算可以,但60%到底是高还是低,其实跟具体场景是密切相关的。
所以现在往往用采纳率来度量,比如以生成JD(Job Description)为例,你生成的JD有多少比例被接纳了,这些数据都是容易被统计的,更能真实地反映AI应用达成的效果。通常会跟一个业务平均水平高一点的人去类比,来看这个结果到底是不是达到一个比较理想的状态。
另外它是有一定的容忍度的,并不追求百分之百的准确。而是达到一个参照水平,从业务上来讲能够带来正向作用,达到业务结果的最终使用方或者内部可接受的程度就可以了。
所以,还是根据实际情况来评估。也许对某些场景来说,要99%的准确率才可以,但对某些场景来说,可能50%或60%就已经足够了。我们只要确定一点,就是系统整体是迭代向上的,这是非常关键的。因此最重要的是尽早构建整个AI应用的框架和质量流程,使AI作业能够迭代优化起来。
总结来说,第一步关注的不应该是准确率的问题,更需要注意的是整个系统能不能够持续迭代起来。第二步,在持续迭代起来的时候,能不能准确地找到系统里面的关键问题或者说关键优化点,围绕数据、模型、工程、前端、企业应用等有很多方面,到底哪个点是高价值部分,是自己可以控制的,这很关键。
很多人一开始可能会犯一个错误,就是看这个准确率不高,然后可能就放弃了,但其实找到那个能让AI应用持续改进的关键点,进行持续迭代优化才是最重要的。
本文转载自51CTO技术栈,作者:云昭