NVIDIA AI数据平台与硅光网络交换机:驱动下一代AI基础设施的技术革新

原创
存储 存储架构 网络设备
NVIDIA的AI数据平台与硅光网络交换机不仅解决了当前AI基础设施的痛点,更为未来的技术演进指明了方向。随着合作伙伴生态的扩展与技术的持续迭代,企业将能以更低成本、更高效率部署AI应用,加速从数据到洞察的价值转化。

随着人工智能(AI)技术的高速发展,企业对计算、存储和网络的需求正经历前所未有的变革。传统的IT基础设施已难以满足AI工作负载对实时性、能效和扩展性的严苛要求。

为应对这一挑战,NVIDIA在2025年GTC大会上发布了两项关键技术创新:NVIDIA硅光网络交换机与AI数据平台。前者借助硅光技术突破网络瓶颈,为百万级GPU集群的AI工厂提供高速、低能耗的通信解决方案。后者通过优化存储与计算的协同,赋能企业高效处理海量数据。这两项技术的发布,不仅代表了当前AI基础设施的前沿趋势,更将重塑未来数据中心的设计逻辑。

AI时代的基础设施挑战与创新

众所周知,AI模型的训练与推理需要快速访问海量数据,而传统存储系统因带宽和延迟限制,往往成为性能瓶颈。与此同时,随着AI工厂规模扩展到数百万GPU,传统铜缆网络的能耗和信号衰减问题日益突出。

在解决海量数据访问性能瓶颈上,NVIDIA推出的AI数据平台通过整合加速计算、智能网络与专用代理式 AI,实现了存储与计算的深度协同。


此外,随着硅光技术的成熟,标志着网络通信从电信号向光信号的全面过渡,为分布式AI训练与推理提供了底层支撑。而本次NVIDIA推出的Spectrum-X Photonics与Quantum-X Photonics交换机,则采用了光电一体化封装,很好的解决了传统铜缆网络的能耗和信号衰减问题。

据了解,NVIDIA AI数据平台的核心在于通过NVIDIA Blackwell GPU与BlueField DPU的组合,以硬件加速的方式大幅提升了数据检索与推理速度。根据NVIDIA公布的相关数据显示,BlueField DPU的性能比基于CPU的存储性能提升最高可达1.6倍,而功耗又比其降低可达50%,每瓦性能提高3倍以上。与传统以太网相比,Spectrum-X通过采用动态路由和优化的拥塞控制,可将AI存储流量提速最高达 48%。

在软件方面,通过不断的优化,NVIDIA AI-Q Blueprint与NeMo Retriever微服务将数据提取速度提升15倍,并通过AI查询智能体(AI Query Agents)支持多源异构数据的实时处理。

在网络方面,全新发布的硅光网络交换机性能与功耗方面也实现了重要的空破。数据显示,通过减少激光器数量并优化光路设计,能耗效率提高到传统方案的3.5倍,信号完整性提升到63倍。此外,动态路由与智能拥塞控制技术使网络可靠性提升到10倍,部署速度加快到1.3倍。

重新定义企业AI基础设施

随着NVIDIA硅光网络交换机与AI数据平台的发布,企业AI基础设施也将会被重新定义。

根据相关技术资料显示,AI数据平台核心组件包括Blackwell GPU、BlueField DPU和Spectrum-X网络。其中,Blackwell GPU专为AI推理优化,支持多模态数据处理(文本、图像、视频)。BlueField DPU用于卸载CPU负载,加速存储访问与安全隔离。Spectrum-X网络则通过动态路由技术,将AI存储流量提速48%。

在关键功能方面,AI-Q Blueprint提供了标准化开发框架,支持企业快速构建代理式AI系统。NVIDIA NIM微服务集成Llama Nemotron等开源推理模型,降低AI部署门槛。


硅光网络交换机能够帮助企业构建AI工厂的“光速通道”。其中,Spectrum-X Photonics支持128×800Gb/s或512×200Gb/s端口,总带宽达100 Tb/s。Quantum-X Photonics采用了液冷设计,实现了高效散热确保光器件在高温环境下的稳定性。性能方面,在InfiniBand协议下,计算网速度提升2倍,扩展性提升5倍。

由于采用了TSMC-SoIC 3D 芯片封装,整合硅光芯片与先进制程,降低信号传输损耗。可插拔模块设计则让Coherent与Lumentum提供兼容性光模块,支持快速部署。

在应用场景方面,AI数据平台可实时分析交易日志与市场数据,检测异常模式。结合NVIDIA NIM的医疗影像分析系统,能够快速检索患者历史数据并提供诊断建议。

强大生态赋能AI发展

在推出AI 数据平台和硅光网络交换机的同时,NVIDIA也在通过积极的构建生态,携手业界合作伙伴共同赋能AI发展。

据了解,NVIDIA 认证的存储提供商借助 NVIDIA AI 数据平台构建基础设施,通过专用 AI 查询智能体,加速 AI 推理工作负载。这些智能体可助力企业应用 NVIDIA AI Enterprise 软件平台(包括全新 NVIDIA Llama Nemotron 推理模型的 NVIDIA NIM™ 微服务)以及全新的 NVIDIA AI-Q Blueprint,近乎实时地生成数据洞察。

存储提供商可借助 NVIDIA Blackwell GPU、NVIDIA BlueField® DPU、NVIDIA Spectrum-X™ 网络以及 NVIDIA Dynamo 开源推理库,优化基础设施,为此类智能体提供强劲支持。

DDN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA 等领先数据平台和存储提供商均选择与 NVIDIA 合作,打造可定制化的 AI 数据平台,充分运用企业数据进行推理并响应复杂查询。

在硅光生态系统伙伴方面,目前已经包括了TSMC、Browave、Coherent、Corning Incorporated、Fabrinet、Foxconn、Lumentum、SENKO、SPIL、Sumitomo Electric Industries 和 TFC Communication。

据了解,NVIDIA photonics 技术将推动新一代先进 AI 工厂的大规模增长,并和 Coherent、Eoptolink、Fabrinet 和 Innolight 等业界领先企业的可插拔光模块技术共同推动这一发展。

写在最后:创新技术驱动AI普惠化

NVIDIA的AI数据平台与硅光网络交换机不仅解决了当前AI基础设施的痛点,更为未来的技术演进指明了方向。随着合作伙伴生态的扩展与技术的持续迭代,企业将能以更低成本、更高效率部署AI应用,加速从数据到洞察的价值转化。在AI工厂与智能代理的协同下,一个由数据驱动、光速连接的新计算时代已然开启。

责任编辑:张诚 来源: 51CTO
相关推荐

2013-05-21 13:04:45

云计算网络融合

2010-01-14 13:46:38

2021-05-22 23:01:21

人工智能网络安全

2012-10-15 19:02:45

下一代网络智能芯片

2010-02-01 16:44:37

软交换机技术

2010-03-17 14:37:52

软交换机

2012-06-01 10:41:13

惠普数据中心

2021-05-11 16:38:36

区块链工具金融

2010-01-14 14:57:03

下一代可堆叠交换机

2022-07-06 11:38:40

人工智能AI

2017-05-16 09:50:34

混合云超融合HCI

2010-03-12 09:37:22

软交换机

2024-02-07 09:00:00

2021-04-07 14:52:31

人工智能网络安全机器学习

2012-05-31 10:17:09

惠普数据中心 EcoPOD

2013-07-27 21:28:44

2021-07-19 06:05:03

PCIe可组合基础设施存储

2021-02-24 16:39:49

AI芯片人工智能物联网

2010-01-08 17:08:28

软交换技术

2010-01-18 13:06:27

软交换技术
点赞
收藏

51CTO技术栈公众号