随着 AI 基础设施规模不断扩大,我认为仅凭端口速率或 PCIe 代际来评估服务器网络适配器,已无法反映全貌。塑造网络架构的三个因素正变得日益重要:性能、可编程性和能效。性能决定数据传输的效率;可编程性决定哪些基础设施功能可以在主机 CPU 之外执行;能效则影响系统成本、散热需求和部署密度。
根据 Dell'Oro Group 最新的以太网适配器与智能 NIC 市场预测,到 2030 年,该市场预计将增长至 536 亿美元。随着 AI 基础设施投资加速,更重要的问题不仅是市场增长速度,还在于不断演进的网络架构将如何影响不同适配器细分市场的需求和竞争定位。

如附图所示,通用(GP)NIC、数据处理单元(DPU)和基础设施处理单元(IPU)、AI 优化型 NIC,以及新兴的纵向扩展传输技术,分别处于性能—可编程性谱系中的不同位置。这些是概念上的区分,而非线性演进:实际能力存在重叠,并取决于具体实现。
更深层的市场问题并不只是哪个适配器最快,而是网络功能应部署在何处——以及客户愿意付费加速、卸载或在其功耗和散热预算内集成哪些能力。
不同工作负载,不同价值主张。
通用 NIC
连接性是基础。通用 NIC 服务于需要可靠连接性、兼容性和成本效益的企业、云和数据中心工作负载。其能力在带宽和硬件卸载方面各不相同。在传统连接性能满足工作负载要求的情况下,额外处理能力可能无法证明其增量成本的合理性。
对于供应商而言,具有成本效益、易于部署的 10/25G 和 100G 通用以太网适配器仍存在机会。根据我们的以太网适配器与智能 NIC 研究,到 2030 年,在企业、非 AI 云服务提供商和电信运营商的前端网络中,运行速率为 100 Gbps 及以下的以太网适配器预计将占端口出货量的 86%。
DPU/IPU
可编程基础设施卸载。数据处理单元(DPU)和基础设施处理单元(IPU)是可编程处理器,旨在将网络、安全、存储和其他基础设施功能从主机 CPU 卸载出去。视具体实现而定,它们将通用处理器核心与网络引擎和专用硬件加速器相结合,以支持虚拟交换、安全、存储和基础设施管理。在我们的以太网适配器与智能 NIC 研究中,DPU 和 IPU 被归类于智能 NIC 细分市场;预计到 2030 年,智能 NIC 将占超大规模云服务商前端网络 NIC 端口出货量的 83%。DPU/IPU(智能 NIC)的硬件数据路径引擎或数据包流水线可使用 ASIC 或可重构现场可编程门阵列(FPGA)实现。
随着智能体 AI 通过多步骤推理、工具编排、内存访问和策略执行增加基础设施复杂性,DPU/IPU 可能为卸载特定网络、安全和基础设施任务提供新的机会。关键市场问题是,这些需求是否会推动 DPU/IPU 在既有云部署之外获得更广泛采用,哪些客户细分市场将引领增量需求,以及可编程卸载将扩大智能 NIC 市场,还是加剧与 AI 优化型 NIC 的竞争。
AI 优化型 NIC
大规模性能。分布式 AI 训练和加速器密集型工作负载需要高有效带宽、高效传输、拥塞管理和可预测的延迟。专用适配器可加速 RDMA、受支持的传输协议以及特定集合通信功能。
能效同样重要。指示性配置范围包括:部分 400G 固定功能适配器约为 15–30 W,部分 800G 及更高速率设计约为 40–75 W。实际功耗因实现而异。随着端口速率提升,SerDes 和 PHY 电路可能增加功耗和散热负担。因此,相关指标并非仅是带宽,而是每瓦有效网络性能。在大型集群中,适配器功耗会影响机架级散热需求,并可能限制系统设计。
这些类别的差异在于侧重点,而非绝对能力。AI NIC 可集成复杂的加速功能,而 DPU/IPU 也可支持高吞吐量网络。
纵向扩展网络:AI 基础设施的新兴前沿
下一次架构转变可能不仅仅是更快的传统适配器。横向扩展网络通过网络织构连接服务器。纵向扩展网络则将高性能通信扩展至各加速器之间,并且可能跨越多个机架。视设计而定,这可能会带来对加速器感知通信、内存语义以及协调端点和传输行为的需求。
开放计算项目的举措,包括用于纵向扩展网络的以太网(ESUN)和纵向扩展以太网传输(SUE-T),体现了这一方向。
如果这些架构成熟并实现大规模部署,网络功能可能会更靠近加速器芯片,或被纳入高度集成的封装中。这可能改变传统适配器的角色,并在加速器供应商、网络芯片供应商和系统设计商之间重新分配价值。
尽管片上纵向扩展网络尚未纳入我们的以太网适配器与智能 NIC 研究,但我们正密切关注这些新兴架构的演进。互操作性、软件成熟度、制造和客户认证将决定哪些方法能够获得商业牵引力。集成可能减少某些数据移动开销,但系统级节能必须得到验证,而不能想当然。
塑造以太网适配器和智能 NIC 的三项市场发展趋势
1. 系统级性能
更高的端口速率本身并不能保证更好的工作负载性能。加速器利用率、作业完成时间和系统总成本的改善,才是差异化更有力的证明。
2. 可编程卸载的经济性
DPU/IPU 由于集成了通用处理能力和额外的加速逻辑,其功耗可能显著高于固定功能适配器。当卸载基础设施功能能够减少主机 CPU 需求或改善隔离性时,这一成本可能是合理的。正确的比较应是系统级净功耗和性能,而不是孤立地比较适配器功耗。
3. 纵向扩展的大规模部署
标准进展和产品发布固然重要,但互操作性、客户认证和可重复部署才是商业采用更有力的指标。产品领导者还应评估新兴架构是否能在系统层面改善能效和散热密度。
战略意义
AI 网络市场不太可能收敛于单一的适配器架构。通用 NIC、DPU/IPU 和 AI 优化型适配器满足不同需求,而新兴的片上纵向扩展设计可能改变连接和传输功能的部署位置。
更深层的转变不仅是迈向更快的网络,而是网络功能在计算系统中的重新分配。对于供应商和基础设施提供商而言,成功将取决于识别哪些功能值得采用专用硬件,哪些需要可编程性,以及哪些可集成到加速器或网络织构中。制胜设计将平衡性能、可编程性和能效,以提供可衡量的系统级价值。
随着这些架构不断演进,了解以太网适配器和智能 NIC 的采用情况及市场定位将变得愈发重要。