长期以来,CPU一直被视为计算处理设备的支柱,GPU则用于处理实时图形。然而,近来备受瞩目的是数据处理单元——DPU。
SmartNIC/ DPU
自 20 世纪 80 年代末以来,网络接口卡 (NIC) 取得了长足的发展。然而,尽管它们在当时是很先进的,但也仅限于两台计算机之间或本地网络上的简单连接。
SmartNIC是可编程网卡,它涵盖了常规 NIC 之外的额外计算资源。SmartNIC的可编程资源可以由 Arm 内核、网络处理单元(NPU)和其他可编程单元组成。
很多人将 DPU 视为 SmartNIC发展的下一步。
DPU 是可编程设备,可以通过硬件加速来协助数据处理。SmartNIC 则将服务器与网络有效连接,其可编程组件配置有加速器,能够高效处理数据,从而释放服务器空间用于应用程序处理,但不适用于多任务处理。虽然 SmartNIC 在某种程度上可以完成 DPU 的工作,但两者构成和功能并不相同。
SmartNIC提供广泛的数据存储和可编程性,但它需要DPU提供更多的虚拟化能力。SmartNIC管理的数据有一定的上限,但当与DPU协同使用时,可以突破数据限制,从而创造出可靠的可编程技术,带来更高的网络处理能力。
在很多情况下,SmartNIC和 DPU 的概念经常互换使用。
据研究机构数据显示,2019 年至 2022 年,国内外企业都申请了众多涉及DPU和相关智能网卡的专利,其中英特尔排名第一,华为排名第二,谷歌排名第三。AMD、英伟达等芯片和处理器制造商已经致力于开发和制造DPU。华硕、戴尔和超威已与使用英伟达DPU的系统集成。AWS 也是DPU的主要用户。
为什么现有网络设施需要集成SmartNIC / DPU?
服务器负担过重
摩尔定律的持续压力每两年就会推动半导体技术的小型化。量子隧道效应、损耗层尺寸的减小以及寄生电容的发展导致了服务器集成电路中的互连瓶颈。硬件尺寸的减小推动了服务器更快地扩展,并增加了CPU的总体成本。
储存及交付
预测显示 2040 年将进入千兆字节时代,网络基础设施因存储数据和按需提供数据而不堪重负。为了减轻服务器的负担,SmartNIC / DPU基础设施为数据中心提供了数 GB 的额外存储,从而释放足够的CPU 周期来执行高价值的企业任务并存储关键信息。
电力消耗
不断增加的服务器工作负载与电源管理所需的额外硬件和设备相关。这种硬件消耗额外的电力,增加了网络基础设施管理的成本。配电单元、备份和冷却机制可以一定程度上帮助解决问题,但SmartNIC / DPU基础设施直接不需要额外硬件的部署,总耗电量随着核心数的减少而降低。
防御攻击
SmartNIC / DPU基础设施能够在硬件级执行网络安全功能,包括数据包包装、散列、压缩和解压、加密和解密、密码算法、防火墙以及DDoS 攻击防御。SmartNIC / DPU可以在不干扰服务器的情况下处理安全操作并消除任何威胁。最新的 SmartNIC / DPU具有防火墙和先进的DDoS 攻击防御机制,支持分布式安全系统。
集成 SmartNIC / DPU基础设施的要求
SmartNIC / DPU 可以满足对高性能、低延迟和安全数据传输日益增长的需求。但SmartNIC / DPU的实施需要可靠的网络基础设施。以下是集成 SmartNIC / DPU基础设施的一些重要要求。
高连接性
网卡通常用于低带宽且速度在10 Gbps的网络基础设施中。SmartNIC / DPU基础设施更适合支持大带宽、处理高网络流量、网速超过100 Gbps的大型企业,通过多个网络层进行套接字加速,以卸载和节省服务器周期,用于特定于应用的高价值任务。
超低延迟
SmartNIC / DPU的实施在有线基础设施中表现最佳,需要执行高速计算的网络使用 InfiniBand SmartNIC / DPU基础设施。在此类网络中,远程直接内存访问 ( RDMA ) 允许直接访问另一台计算机的内存,在不涉及内核的情况下提供超低延迟。
传统基础设施更适用于以太网,并且在实施SmartNIC / DPU时面临着复杂性。基于融合以太网的 RDMA 支持基于以太网的 SmartNIC / DPU基础设施,提供低延迟和更高的吞吐量。
复杂的网络架构
SmartNIC / DPU适用于企业和大型云提供商的client-server模型的服务器端。软件定义网络 (SDN)、网络功能虚拟化 (NVF)、高速计算和复杂基础设施等网络架构为 SmartNIC / DPU实现硬件加速提供了条件。
来自电信、SaaS、电子商务和流媒体平台等行业的分布式云计算公司部署了成百上千个智能网卡进行加速。这些大型组织拥有提供微服务和处理大数据的网络架构。
网络交换机兼容性
一个网络可以使用多种类型的网络交换机。SmartNIC / DPU与网络中的现有硬件(如交换机、操作系统)的兼容性和可配置性至关重要。
某些 SmartNIC / DPU可能与网络基础设施不兼容,需要为现有网络交换机选择兼容的 SmartNIC / DPU,包括接口、协议、可编程性、配置和用例。
SDN集成
大型企业往往使用 SDN 在全球多个工作场所连接、管理和加速其工作流程。在此类网络中集成 SmartNIC / DPU基础设施可以减轻 SDN 集中控制器任务,从而有效管理网络。
由于 SmartNIC / DPU是可编程的,因此它们可以加速 SDN 中路由器和交换机的数据平面和特定应用的任务,包括流量转发、数据包过滤、加密和解密、防火墙等。
NFV功能
SmartNIC / DPU还用于采用 NFV 的网络中。由于多个虚拟机运行在共享物理基础设施中,从而消除了对专用硬件的需求,因此NFV 网络需要实施 SmartNIC / DPU基础设施。
这类似于在数据网络中部署虚拟微服务器,每个网络都有自己的资源。NVF 加速的例子包括虚拟可扩展 LAN、微分段和负载平衡。
在网络基础设施中实施 SmartNIC / DPU后,网络团队可以将重点转向管理 SmartNIC / DPU。SmartNIC / DPU基础设施部署后的定期质量检查是智能持续加速的关键。SmartNIC / DPU可以对网络、存储和安全功能本身进行定期审查。有效的网络管理可通过监控软件和关键指标确保 SmartNIC / DPU的无缝性能。
监控工具不断收集和分析数据,例如延迟、速度、吞吐量和丢包。一旦工具或 SmartNIC / DPU检测到错误,就必须自动排除故障以获得解决方案。除了故障排除,网络管理还确保 SmartNIC / DPU基础设施的定期更新,以满足最新的技术需求。此外,网络编排平台还可以自动配置 SmartNIC / DPU以符合当前的安全操作法规和标准。
小结
将SmartNIC / DPU与现有网络设施集成,是确保其成功应用于实际生产环境的关键。这种无缝融合可以提高整体性能和效率,降低主机处理器负载,并支持网络虚拟化,为企业带来更大的灵活性和可管理性。同时,SmartNIC / DPU的高级网络功能也能够增强网络的安全性,保护企业的数据和资产。
随着技术的不断进步和需求的不断变化,SmartNIC / DPU将继续发挥着关键作用,为网络性能的持续优化和应用程序处理的提升做出贡献。我们可以预见,未来网络将更加智能、高效,并为企业带来更多创新的可能性。