AI大模型的“心脏”算力王者归来

发布于 2024-4-12 11:05
浏览
0收藏

在数字浪潮中,AI大模型如日中天,成为科技领域的焦点。然而,在这一切背后,算力作为支撑AI大模型的基石,更是功不可没。今天,就让我们一同探讨算力的重要性,见证其王者归来的时刻。

什么是算力

算力的字面意思,大家都懂,就是计算能力(Computing Power)

更具体来说,算力是通过对信息数据进行处理,实现目标结果输出的计算能力。

我们人类,其实就具备这样的能力。在我们的生命过程中,每时每刻都在进行着计算。我们的大脑,就是一个强大的算力引擎。

在PC的帮助下,人们充分感受到IT算力带来的生活品质改善,以及生产效率提升。PC的出现,也为后来互联网的蓬勃发展奠定了基础。

进入21世纪后,算力再次迎来了巨变。这次巨变的标志,是云计算技术的出现。

在云计算之前,人类苦于单点式计算一台大型机或一台PC,独立完成全部的计算任务)的算力不足,已经尝试过网格计算(把一个巨大的计算任务,分解为很多的小型计算任务,交给不同的计算机完成)等分布式计算架构。

云计算,是分布式计算的新尝试。它的本质,是将大量的零散算力资源进行打包、汇聚,实现更高可靠性、更高性能、更低成本的算力。

具体来说,在云计算中,中央处理器(CPU)、内存、硬盘、显卡(GPU)等计算资源被集合起来,通过软件的方式,组成一个虚拟的可无限扩展的“算力资源池”

用户如果有算力需求,“算力资源池”就会动态地进行算力资源的分配,用户按需付费。相比于用户自购设备、自建机房、自己运维,云计算有明显的性价比优势。

算力云化之后,数据中心成为了算力的主要载体。人类的算力规模,开始新的飞跃。

不同的算力应用和需求,有着不同的算法。不同的算法,对算力的特性也有不同要求。

通常,我们将算力分为两大类,分别是通用算力专用算力


AI大模型的“心脏”算力王者归来-AI.x社区

大家应该都听说过,负责输出算力的芯片,就有分为通用芯片和专用芯片。

在数据中心里,也对算力任务进行了对应划分,分为基础通用计算,以及HPC高性能计算(High-performance computing)。

HPC计算,又继续细分为三类:

科学计算类:物理化学、气象环保、生命科学、石油勘探、天文探测等。

工程计算类:计算机辅助工程、计算机辅助制造、电子设计自动化、电磁仿真等。

智能计算类:即人工智能(AI,Artificial Intelligence)计算,包括:机器学习、深度学习、数据分析等。

AI人工智能是目前全社会重点关注的发展方向。不管是哪个领域,都在研究人工智能的应用和落地。人工智能三大核心要素,就是算力、算法和数据。


AI大模型的“心脏”算力王者归来-AI.x社区

大家都知道,AI人工智能是一个算力大户,特别“吃”算力。在人工智能计算中,涉及较多的矩阵或向量的乘法和加法,专用性较高,所以不适合利用CPU进行计算。

在现实应用中,人们主要用GPU和前面说的专用芯片进行计算。尤其是GPU,是目前AI算力的主力。

GPU虽然是图形处理器,但它的GPU核(逻辑运算单元)数量远超CPU, 适合把同样的指令流并行发送到众核上,采用不同的输入数据执行,从而完成图形处理或大数据处理中的海量简单操作。

因此,GPU更合适处理计算密集型、高度并行化的计算任务(例如AI计算)。

这几年,因为人工智能计算的需求旺盛,国家还专门建设了很多智算中心,也就是专门进行智能计算的数据中心。我们平时看到的数据中心,基本上都属于云计算数据中心


AI大模型的“心脏”算力王者归来-AI.x社区

任务比较杂,基础通用计算和高性能计算都有,也有大量的异构计算(同时使用不同类型指令集的计算方式)。因为高性能计算的需求越来越多,所以专用计算芯片的比例正在逐步增加。

前几年逐渐开始流行起来的TPU、NPU和DPU等,其实都是专用芯片。

AI大模型的“心脏”算力王者归来-AI.x社区

大家现在经常听说的“算力卸载”,其实不是删除算力,而是把很多计算任务(例如虚拟化、数据转发、压缩存储、加密解密等),从CPU转移到NPU、DPU等芯片上,减轻CPU的算力负担。

算力的衡量

算力既然是一个“能力”,当然就会有对它进行强弱衡量的指标和基准单位。大家比较熟悉的单位,应该是FLOPS、TFLOPS等。

其实,衡量算力大小的指标还有很多,例如MIPS、DMIPS、OPS等。

AI大模型的“心脏”算力王者归来-AI.x社区

MFLOPS、GFLOPS、TFLOPS、PFLOPS等,都是FLOPS的不同量级。具体关系如下:

AI大模型的“心脏”算力王者归来-AI.x社区

浮点数有FP16、FP32、FP64不同的规格

不同的算力载体之间,算力差异是非常巨大的。为了便于大家更好地理解这个差异,小枣君又做了一张算力对比表格:

AI大模型的“心脏”算力王者归来-AI.x社区

前面我们提到了通用计算、智算和超算。从趋势上来看,智算和超算的算力增长速度远远超过了通用算力。

算力的现状与未来

早在1961年,“人工智能之父”约翰·麦卡锡就提出Utility Computing(效用计算)的目标。他认为:“有一天,计算可能会被组织成一个公共事业,就像电话系统是一个公共事业一样”。

如今,他的设想已经成为现实。在数字浪潮下,算力已经成为像水、电一样的公共基础资源,而数据中心和通信网络,也变成了重要的公共基础设施。

这是IT行业和通信行业辛苦奋斗大半个世纪的成果。    

对于整个人类社会来说,算力早已不是一个技术维度的概念。它已经上升到经济学和哲学维度,成为了数字经济时代的核心生产力,以及全社会数智化转型的基石

我们每个人的生活,还有工厂企业的运转,政府部门的运作,都离不开算力。在国家安全、国防建设、基础学科研究等关键领域,我们也需要海量的算力。算力决定了数字经济发展速度,以及社会智能发展高度。

算力:AI大模型的“心脏”

AI大模型如同一个巨大的机器人,需要源源不断的动力来驱动。而算力,就是这台机器人的“心脏”。没有强大的算力,AI大模型就无法高效运转,更无法实现精准预测、智能决策等功能。因此,算力是AI大模型发展的关键因素之一。

算力不仅关乎AI大模型的运行效率,更决定了AI的边界。在算力受限的情况下,AI大模型的处理能力会受到严重制约,无法应对复杂多变的场景。算力的发展不仅促进了AI大模型的进步,更推动了整个科技领域的进步。在算力的推动下,人类实现了从手工计算到自动化计算的飞跃,从数据处理到智能决策的蜕变。算力的发展将不断拓宽科技领域的发展道路,为人类带来更多惊喜。

随着信息通信技术从云网融合向算网一体迈进,算力和网络产业的边界日益模糊,形成以“算+网+协同”为主线的算力网络产业格局,上游为底层硬件基础设施,中游为算力网络相关平台、服务及关键技术,下游为赋能的应用场景及最终用户,产业链关键环节如下图所示。

AI大模型的“心脏”算力王者归来-AI.x社区

运营商涉及算力网络产业链上、中、下游多个环节,已在网络领域拥有不可复制的业务优势,因此站在运营商视角,算力网络建设的核心在于“泛在高品质的算力”和“灵活强协同的调度”。海量数据集中化处理、分布化计算需求爆发式增长,数据中心和边缘计算行业是实现泛在高品质算力的关键;算网业务的实现需要算力和网络以一体化形态对外提供服务,具备智能化编排管理能力的算网大脑是支撑灵活强协同调度的核心。

从产业格局来看,目前全球科技巨头均在加速算力侧的布局,软件厂商开始自研芯片,而硬件厂商则在搭建算力平台。一方面,包括微软、亚马逊、谷歌和Facebook等软件及互联网巨头均在加大自研AI芯片的投入,同样国内头部互联网厂商阿里、腾讯、百度等也均披露了AI芯片的自研计划,而另一方面,以英特尔为代表的芯片厂商则开始搭建算力平台,发力软件和云服务。

AI大模型的“心脏”算力王者归来-AI.x社区


算力,作为AI大模型的“心脏”,其重要性不言而喻。在科技飞速发展的今天,随着算力的发展,AI大模型领域也讲创造更多的奇迹,为人类带来更多便捷与智慧。

AI大模型的“心脏”算力王者归来-AI.x社区




本文转载自公众号数字化助推器  作者:天涯咫尺TGH

原文链接:​​https://mp.weixin.qq.com/s/vKquNaRPCjvT3mFIDsq77Q​

收藏
回复
举报
回复
相关推荐