NVIDIA 推出800Gb/s网络平台,将大规模网络AI性能提升到新的水平

网络 网络设备
为了解决AI时代带来的网络挑战,NVIDIA 在今年的GTC上正式发布了专为大规模 AI 量身订制的全新网络交换机 - X800 系列。​

生成式AI的爆火,在给企业带来创新应用的同时,也对数据中心网络提出了更高的要求。为了解决AI时代带来的网络挑战,NVIDIA 在今年的GTC上正式发布了专为大规模 AI 量身订制的全新网络交换机 - X800 系列。

据了解,NVIDIA Quantum-X800 InfiniBand 网络和 NVIDIA Spectrum™-X800 以太网络是全球首批高达800Gb/s 端到端吞吐量的网络平台,将计算和 AI 工作负载的网络性能提升到了一个新的水平,与其配套软件强强联手可进一步加速各种数据中心中的 AI、云、数据处理和高性能计算(HPC)应用,包括基于最新的 NVIDIA Blackwell 架构产品的数据中心。

NVIDIA 网络高级副总裁 Gilad Shainer 表示:“NVIDIA 网络平台是 AI 超级计算基础设施实现大规模可扩展的核心。基于 NVIDIA X800 交换机的端到端网络平台,使新型 AI 基础设施轻松运行万亿参数级生成式 AI 业务。”

为AI应用树立极致性能新标杆

Quantum-X800 平台树立了 AI 专用基础设施极致性能的新标杆,该平台包含了 NVIDIA Quantum Q3400 交换机和 NVIDIA ConnectXⓇ-8 SuperNIC,二者互连达到了业界领先的端到端800Gb/s 吞吐量,交换带宽容量较上一代产品提高了 5 倍,网络计算能力更是凭借NVIDIA 的 SHARP™ 技术(SHARPv4)提高了9 倍,达到了14.4Tflops。

Spectrum-X800 平台为 AI 云和企业级基础设施带来优化的网络性能。借助800Gb/s 的 Spectrum SN5600 交换机和 NVIDIA BlueField-3 SuperNIC,Spectrum-X800 平台为多租户生成式 AI 云和大型企业级用户提供各种至关重要的先进功能。

Spectrum-X800 通过优化网络性能,加快 AI 工作负载的处理、分析和执行速度,进而缩短 AI 解决方案的开发、部署和上市时间。Spectrum-X800 专为多租户环境打造,实现了每个租户的 AI 工作负载的性能隔离,使业务性能能够持续保持在最佳状态,提升客户满意度和服务质量。

面向万亿参数级 AI 模型性能优化的全套软件方案

NVIDIA 提供面向万亿参数级 AI 模型性能优化的网络加速通信库、软件开发套件和管理软件等全套软件方案。

其中的 NVIDIA 集合通信库(NCCL)可将 GPU 的并行计算任务扩展到 Quantum-X800 网络,利用其基于SHARPv4 的强大网络计算能力和对FP8 的支持,为大模型训练和生成式 AI 提供超强的性能。

NVIDIA 的全栈软件方案带来了先进的可编程性,使数据中心网络变得更加灵活、可靠和灵敏,既提高了整体运营效率,又满足了现代应用和服务的需求。

携手业界生态合作伙伴共同推动AI网络发展

Quantum InfiniBand 和 Spectrum-X 以太网的早期用户包括微软 Azure 、Oracle Cloud Infrastructure 和Coreweave 等。

全球多家头部基础设施供应商和系统厂商将在明年开始提供基于Quantum-X800 和Spectrum-X800 的网络平台,包括 Aivres、DDN、戴尔科技、Eviden、Hitachi Vantara、慧与、联想、超微和 VAST Data 等。

微软Azure AI 基础设施副总裁 Nidhi Chappell 表示:“AI 是一个将数据转化为知识的强大工具,支撑这种转化的基础就是数据中心演进成为了高性能的 AI 引擎,这个演进又对网络基础设施提出了更大的需求。通过与 NVIDIA 网络解决方案的全新整合,微软 Azure云将持续构建我们的基础设施,推动 AI 云走向新的台阶。”

责任编辑:张诚
相关推荐

2020-12-09 22:15:40

物联网IOT客户关系

2023-04-11 16:28:31

人工智能AI

2022-10-18 14:22:27

2023-07-21 12:51:32

2022-02-10 15:58:51

机器学习人工智能汽车

2023-11-27 15:41:16

物联网数字孪生

2009-11-07 22:29:41

2018-07-24 11:42:01

认证敏捷项目管理认证

2016-07-19 09:35:34

云计算

2021-05-28 11:02:11

VR

2022-06-08 10:15:13

AINVIDIA人工智能

2023-08-08 08:36:52

Vue.js代码Pinia

2022-12-19 15:08:18

数据安全加密

2023-06-19 07:00:15

PCIeDDR5内存

2011-10-22 11:31:23

UbuntuLTS

2022-03-23 16:06:13

AI神经网络边缘人工智能

2023-03-20 20:41:52

2013-04-07 13:58:00

2015-08-21 09:41:16

2015-06-08 15:23:24

OceaStor 55华为
点赞
收藏

51CTO技术栈公众号