随着人工智能(AI)技术的高速发展,企业对计算、存储和网络的需求正经历前所未有的变革。传统的IT基础设施已难以满足AI工作负载对实时性、能效和扩展性的严苛要求。
为应对这一挑战,NVIDIA在2025年GTC大会上发布了两项关键技术创新:NVIDIA硅光网络交换机与AI数据平台。前者借助硅光技术突破网络瓶颈,为百万级GPU集群的AI工厂提供高速、低能耗的通信解决方案。后者通过优化存储与计算的协同,赋能企业高效处理海量数据。这两项技术的发布,不仅代表了当前AI基础设施的前沿趋势,更将重塑未来数据中心的设计逻辑。
AI时代的基础设施挑战与创新
众所周知,AI模型的训练与推理需要快速访问海量数据,而传统存储系统因带宽和延迟限制,往往成为性能瓶颈。与此同时,随着AI工厂规模扩展到数百万GPU,传统铜缆网络的能耗和信号衰减问题日益突出。
在解决海量数据访问性能瓶颈上,NVIDIA推出的AI数据平台通过整合加速计算、智能网络与专用代理式 AI,实现了存储与计算的深度协同。
此外,随着硅光技术的成熟,标志着网络通信从电信号向光信号的全面过渡,为分布式AI训练与推理提供了底层支撑。而本次NVIDIA推出的Spectrum-X Photonics与Quantum-X Photonics交换机,则采用了光电一体化封装,很好的解决了传统铜缆网络的能耗和信号衰减问题。
据了解,NVIDIA AI数据平台的核心在于通过NVIDIA Blackwell GPU与BlueField DPU的组合,以硬件加速的方式大幅提升了数据检索与推理速度。根据NVIDIA公布的相关数据显示,BlueField DPU的性能比基于CPU的存储性能提升最高可达1.6倍,而功耗又比其降低可达50%,每瓦性能提高3倍以上。与传统以太网相比,Spectrum-X通过采用动态路由和优化的拥塞控制,可将AI存储流量提速最高达 48%。
在软件方面,通过不断的优化,NVIDIA AI-Q Blueprint与NeMo Retriever微服务将数据提取速度提升15倍,并通过AI查询智能体(AI Query Agents)支持多源异构数据的实时处理。
在网络方面,全新发布的硅光网络交换机性能与功耗方面也实现了重要的空破。数据显示,通过减少激光器数量并优化光路设计,能耗效率提高到传统方案的3.5倍,信号完整性提升到63倍。此外,动态路由与智能拥塞控制技术使网络可靠性提升到10倍,部署速度加快到1.3倍。
重新定义企业AI基础设施
随着NVIDIA硅光网络交换机与AI数据平台的发布,企业AI基础设施也将会被重新定义。
根据相关技术资料显示,AI数据平台核心组件包括Blackwell GPU、BlueField DPU和Spectrum-X网络。其中,Blackwell GPU专为AI推理优化,支持多模态数据处理(文本、图像、视频)。BlueField DPU用于卸载CPU负载,加速存储访问与安全隔离。Spectrum-X网络则通过动态路由技术,将AI存储流量提速48%。
在关键功能方面,AI-Q Blueprint提供了标准化开发框架,支持企业快速构建代理式AI系统。NVIDIA NIM微服务集成Llama Nemotron等开源推理模型,降低AI部署门槛。
硅光网络交换机能够帮助企业构建AI工厂的“光速通道”。其中,Spectrum-X Photonics支持128×800Gb/s或512×200Gb/s端口,总带宽达100 Tb/s。Quantum-X Photonics采用了液冷设计,实现了高效散热确保光器件在高温环境下的稳定性。性能方面,在InfiniBand协议下,计算网速度提升2倍,扩展性提升5倍。
由于采用了TSMC-SoIC 3D 芯片封装,整合硅光芯片与先进制程,降低信号传输损耗。可插拔模块设计则让Coherent与Lumentum提供兼容性光模块,支持快速部署。
在应用场景方面,AI数据平台可实时分析交易日志与市场数据,检测异常模式。结合NVIDIA NIM的医疗影像分析系统,能够快速检索患者历史数据并提供诊断建议。
强大生态赋能AI发展
在推出AI 数据平台和硅光网络交换机的同时,NVIDIA也在通过积极的构建生态,携手业界合作伙伴共同赋能AI发展。
据了解,NVIDIA 认证的存储提供商借助 NVIDIA AI 数据平台构建基础设施,通过专用 AI 查询智能体,加速 AI 推理工作负载。这些智能体可助力企业应用 NVIDIA AI Enterprise 软件平台(包括全新 NVIDIA Llama Nemotron 推理模型的 NVIDIA NIM™ 微服务)以及全新的 NVIDIA AI-Q Blueprint,近乎实时地生成数据洞察。
存储提供商可借助 NVIDIA Blackwell GPU、NVIDIA BlueField® DPU、NVIDIA Spectrum-X™ 网络以及 NVIDIA Dynamo 开源推理库,优化基础设施,为此类智能体提供强劲支持。
DDN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA 等领先数据平台和存储提供商均选择与 NVIDIA 合作,打造可定制化的 AI 数据平台,充分运用企业数据进行推理并响应复杂查询。
在硅光生态系统伙伴方面,目前已经包括了TSMC、Browave、Coherent、Corning Incorporated、Fabrinet、Foxconn、Lumentum、SENKO、SPIL、Sumitomo Electric Industries 和 TFC Communication。
据了解,NVIDIA photonics 技术将推动新一代先进 AI 工厂的大规模增长,并和 Coherent、Eoptolink、Fabrinet 和 Innolight 等业界领先企业的可插拔光模块技术共同推动这一发展。
写在最后:创新技术驱动AI普惠化
NVIDIA的AI数据平台与硅光网络交换机不仅解决了当前AI基础设施的痛点,更为未来的技术演进指明了方向。随着合作伙伴生态的扩展与技术的持续迭代,企业将能以更低成本、更高效率部署AI应用,加速从数据到洞察的价值转化。在AI工厂与智能代理的协同下,一个由数据驱动、光速连接的新计算时代已然开启。