分布式云的真正实力:从GPU到CPU,边缘算力助攻AI创新

云计算
Akamai 云计算服务在 IaaS、容器、存储、数据库、网络与开发工具方面也有全方位的云服务,可助力企业与开发者摆脱云绑定模式,灵活进行微服务创新,更快速、更高效地打造泛智能的创新型产品。

近期,OpenAI 全新旗舰版多模态模型 GPT-4o 横空出世,其打通文本、图像、视频的富媒体理解能力以及敏捷的智能化对话,将 AI 助手的人性化表达效果,提升至更高水平。

从技术源头来看,AI 大模型的卓越表现得益于高效的 AI 训练与推理的过程,而这需要有规模化的云计算作为算力支撑。日前,ChatGPT(包括网站、App和桌面应用)的大规模服务中断持续了数个小时,无处可去的用户选择暂时用Gemini、Claude和Perplexity替代工作,结果导致了它们也相继出现短暂故障

这一事件的原因虽然尚未得到详细说明,但“云+AI”两者之间的重要关系不言而喻。“智”算,已然成为云计算的重要驱动力。

延伸阅读,点击链接了解Akamai Cloud Computing

IDC 和浪潮联合发布的《2022-2023中国人工智能计算力发展评估报告》显示,预计2026年,智能算力规模将进入每秒十万亿亿次浮点计算(ZFlops)级别。算力需求激增趋势下,企业对算力“水煤电”的使用现状,也并非足够顺畅,而是存在多重维度的挑战:

集中云是大脑分布式云则是抓手

拥有敏锐创新嗅觉的云从业人员发现,云形态正在因 AI 风向的不同发生显著改观。传统集中云能够实现大规模的资源拓展,但高度集中的中心形态更需要分枝散叶、如触手一般在近端呈现为分布形态——如高“智”商的物种章鱼一般,多触点、才敏捷。

ITDM 调查显示,技术负责人认识到分布式云的实用性特别适合于大数据和分析应用场景(56%)以及 AI/ML 工作负载 (47%)而根据 ClearPath Strategies 在2023年进行了一项全球性研究,有三分之二的 IT 决策者表示在未来 12 个月内其分布式云服务的使用量预计会显著增加。超过三分之一的受访者表示,分布式云好处众多(如快速、高效处理和分析 AI/ML 数据能力),是 IT 策略不可或缺的一部分。

布局边缘强势助攻 AI 创新

AI 智算之道与 Akamai 云计算战略不谋而合。作为 CDN 行业鼻祖,Akamai 在分布式云方面有天然优势,始终秉持着在贴近终端用户的位置,一路积淀、融合、构建了云计算、云安全、云分发三位一体的快捷服务。

如今,Akamai 云计算平台战略的关键一步,便是 Akamai Generalized Edge Compute (Gecko) 泛化边缘计算计划支持企业与开发者利用分布式云形态,可突破云绑定模式,获得云的便携性,助力企业开发者在多云容器化格局下,高效开发、降本增效。

应对 AI 创新的海量算力资源需求,Akamai 云产品阵容中新添一款基于 NVIDIA RTX 4000 Ada Generation GPU 的媒体优化型产品,能用于 Gen AI/ML 场景,非常适合利用神经网络进行训练和推理任务,可并行执行大量计算,更快、更高效地训练新模型,提高准确性和性能。

从 GPU 到 CPU提升 AI 推理性能

为突破边缘推理 GPU 容量不足、算力不足等难题,Akamai 携手 Neural Magic 和 AMD 展开三方战略合作,推出了基于 CPU 的 AI 推理技术。

Neural Magic 通过稀疏化算法优化 AI 模型,降低算力需求,可以把 LLM 机器视觉 NLP 模型的运行至 CPU 上;并协同 AMD 四代 CPU 特定更新的向量指令集,提升运行效率。

Akamai 用 NLP 模型进行性能测试,基于两款入门Akamai 两核 CPU 虚机,若处理4万条电影评论的文本情感分析,仅需20分钟即可完成。月费成本上,每个月可处理8600万条推理请求,单月推理成本低至82美金。Neural Magic 也使用 NLP 模型,对比了 CPU/GPU 推理效率。在维持原有模型推理准确性的同时,推理效率的两端,效率相差1000倍之多,更有助于保障企业的 AI 创新业务的可持续盈利能力。

基于分布式云加速推荐引擎 AI 推理

电商、社交媒体、广告等行业往往需要借助融合 AI、深度学习和大语言模型算法的推荐引擎来发掘用户偏好,主动推荐可能感兴趣的内容和商品。但若缺失高质量的网络性能保障,泛互联网产业广为使用的推荐引擎,将受限于网络访问时延。

面对阻碍推荐引擎的网络访问时延问题,除优化网络架构、使用更快的网络设备、优化数据传输协议等措施,更可以基于边缘的分布式云计算网络、具有 AI 算力的边缘计算节点,支持行业用户化解推荐引擎部署、性能、延时等方面的难题。Akamai 特别建议出海企业将 AI 推荐引擎部署距离用户更近的 Akamai Gecko 站点,获得全球范围的边缘优势。

一直以来,在推荐引擎场景的成功实践之外,Akamai 云计算服务也以灵活、易用的分布式形态与智能应用,长期助力广告科技、游戏、数据库等行业,显著降低云成本,在保障性能的同时,提升 IT 投资回报率。

Akamai云计算平台上优化AI应用的架构设计

整体来看,Akamai 云计算服务在 IaaS、容器、存储、数据库、网络与开发工具方面也有全方位的云服务,可助力企业与开发者摆脱云绑定模式,灵活进行微服务创新,更快速、更高效地打造泛智能的创新型产品。

例如,一个基于QwikOpenAI服务的Web项目如果搭建在Akamai的云计算服务(即Akamai Linode)上,完全可以通过引入边缘计算来提高性能,获得更快的响应时间和更好的用户体验(当然,API调用也更少)。

日常的应用开发与Akamai的云计算和边缘计算服务整合,不仅仅能改善性能,还可以获得很多非常酷的安全功能。例如,在Akamai的网络上,我们可以使用诸如Web应用程序防火墙(WAF)、分布式拒绝服务(DDoS)防护、智能爬虫检测等功能,从而更好地保障应用程序、数据、客户信息的安全性。

如今,Akamai Qualified Computing Partner Program(QCP)合作伙伴计划,正在火热纳新中,Akamai 广邀在 AI 训练&推理等领域的合作伙伴,共创、共构生态特定行业场景解决方案,重塑智能化时代的用户体验与创新效率。

欢迎点击以下链接,试用 Akamai 云计算系列产品;同时,Akamai 也欢迎志同道合的创新团队加入 Akamai QCP 合作伙伴计划。

如您所在的企业也在考虑采购云服务或进行云迁移,

点击链接了解Akamai Linode的解决方案


责任编辑:张燕妮
相关推荐

2024-05-29 14:23:10

Akamai云计算服务

2024-01-29 14:46:22

分布式计算云计算边缘计算

2022-03-24 15:44:06

边缘计算CDN

2021-11-26 06:43:19

Java分布式

2024-01-22 13:55:00

2022-12-04 22:41:15

IPC分布式机制

2023-08-25 09:39:20

数据存力

2017-09-01 05:35:58

分布式计算存储

2022-02-24 10:01:05

数字化网络安全边缘计算

2017-11-10 06:15:35

2021-04-15 11:04:13

云计算分布式边缘计算边缘计算

2024-06-07 07:41:03

2024-03-20 11:07:57

AI计算CPUGPU

2023-08-18 09:00:00

Kubernetes数据库SQL

2021-12-13 16:55:50

数字化

2021-12-28 20:21:38

计算

2023-04-02 21:34:48

大数据云计算

2023-02-20 10:15:00

云协同边缘
点赞
收藏

51CTO技术栈公众号