AI 인프라가 확장됨에 따라, 서버 네트워크 어댑터를 포트 속도나 PCIe 세대만으로 평가하는 것은 더 이상 전체 그림을 보여주지 못한다고 생각합니다. 네트워크 아키텍처를 형성하는 데 점점 더 중요해지고 있는 세 가지 요소는 성능, 프로그래밍 가능성, 전력 효율성입니다. 성능은 데이터가 얼마나 효율적으로 이동하는지를 결정하고, 프로그래밍 가능성은 어떤 인프라 기능을 호스트 CPU 외부에서 실행할 수 있는지를 결정하며, 전력 효율성은 시스템 비용, 냉각 요구 사항 및 배포 밀도에 영향을 미칩니다.
Dell'Oro Group의 최신 Ethernet Adapter & Smart NIC 시장 전망에 따르면, 이 시장은 2030년까지 536억 달러로 성장할 것으로 예상됩니다. AI 인프라 투자가 가속화됨에 따라 더 중요한 질문은 단순히 시장이 얼마나 빠르게 성장할 것인가가 아니라, 진화하는 네트워킹 아키텍처가 다양한 어댑터 부문 전반의 수요와 경쟁적 포지셔닝에 어떤 영향을 미칠 것인가입니다.

첨부된 차트에서 볼 수 있듯이, 범용(GP) NIC, 데이터 처리 장치(DPU) 및 인프라 처리 장치(IPU), AI 최적화 NIC, 그리고 새롭게 부상하는 스케일업 전송 기술은 성능-프로그래밍 가능성 스펙트럼에서 서로 다른 위치를 차지합니다. 이는 선형적 발전 단계가 아닌 개념적 구분이며, 실제 기능은 서로 겹치고 구현 방식에 따라 달라집니다.
더 근본적인 시장 질문은 단순히 어떤 어댑터가 가장 빠른가가 아닙니다. 네트워킹 기능이 어디에 위치해야 하는지, 그리고 고객이 전력 및 열 예산 내에서 가속, 오프로드 또는 통합을 위해 어떤 기능에 비용을 지불할 것인가입니다.
서로 다른 워크로드, 서로 다른 가치 제안.
범용 NIC
기본 요소로서의 연결성. 범용 NIC는 신뢰할 수 있는 연결성, 호환성 및 비용 효율성을 요구하는 엔터프라이즈, 클라우드 및 데이터센터 워크로드에 사용됩니다. 이들의 기능은 대역폭과 하드웨어 오프로드 측면에서 다양합니다. 기존 연결성이 워크로드 요구 사항을 충족하는 경우, 추가 처리는 그에 따른 추가 비용을 정당화하지 못할 수 있습니다.
공급업체에는 비용 효율적이고 배포가 쉬운 10/25G 및 100G 범용 이더넷 어댑터에서 여전히 기회가 있습니다. 당사의 Ethernet Adapter & Smart NIC 연구에 따르면, 100Gbps 이하로 작동하는 이더넷 어댑터는 2030년 엔터프라이즈, 비AI 클라우드 제공업체 및 통신 사업자의 프런트엔드 네트워크 전반에서 포트 출하량의 86%를 차지할 것으로 예상됩니다.
DPU/IPU
프로그래밍 가능한 인프라 오프로드. 데이터 처리 장치(DPU)와 인프라 처리 장치(IPU)는 네트워킹, 보안, 스토리지 및 기타 인프라 기능을 호스트 CPU에서 오프로드하도록 설계된 프로그래밍 가능한 프로세서입니다. 구현 방식에 따라 범용 프로세서 코어와 네트워킹 엔진 및 전용 하드웨어 가속기를 결합하여 가상 스위칭, 보안, 스토리지 및 인프라 관리를 지원합니다. 당사의 Ethernet Adapter & Smart NIC 연구에서 DPU와 IPU는 Smart NIC 부문에 분류되며, Smart NIC는 2030년까지 하이퍼스케일러의 프런트엔드 네트워크에서 NIC 포트 출하량의 83%를 차지할 것으로 예상됩니다. DPU/IPU(Smart NIC)의 하드웨어 데이터 경로 엔진 또는 패킷 파이프라인은 ASIC 또는 재구성 가능한 FPGA(Field Programmable Gate Array)를 사용하여 구현할 수 있습니다.
에이전트형 AI가 다단계 추론, 도구 오케스트레이션, 메모리 액세스 및 정책 시행을 통해 인프라 복잡성을 높이면서, DPU/IPU는 일부 네트워킹, 보안 및 인프라 작업을 오프로드할 새로운 기회를 제공할 수 있습니다. 핵심 시장 질문은 이러한 수요가 기존 클라우드 배포를 넘어 더 폭넓은 DPU/IPU 채택을 촉진할지, 어떤 고객 부문이 추가 수요를 주도할지, 그리고 프로그래밍 가능한 오프로드가 Smart NIC 시장을 확대할지 아니면 AI 최적화 NIC와의 경쟁을 심화할지입니다.
AI 최적화 NIC
대규모 성능. 분산형 AI 학습 및 가속기 집약적 워크로드에는 높은 유효 대역폭, 효율적인 전송, 혼잡 관리 및 예측 가능한 지연 시간이 필요합니다. 특수 어댑터는 RDMA, 지원되는 전송 프로토콜 및 일부 집단 통신 기능을 가속할 수 있습니다.
전력 효율성도 똑같이 중요합니다. 예시 프로필은 일부 400G 고정 기능 어댑터의 약 15~30W에서 일부 800G 이상 설계의 40~75W까지입니다. 실제 소비 전력은 구현 방식에 따라 달라집니다. 포트 속도가 높아짐에 따라 SerDes 및 PHY 회로는 전력 및 냉각 부담을 더할 수 있습니다. 따라서 관련 지표는 대역폭만이 아니라 와트당 유효 네트워킹 성능입니다. 대규모 클러스터 전반에서 어댑터 전력은 랙 수준의 열 제거 요구 사항에 기여하며 시스템 설계를 제약할 수 있습니다.
이러한 범주는 절대적 기능이 아니라 중점 분야에서 차이가 납니다. AI NIC는 정교한 가속 기능을 통합할 수 있으며, DPU/IPU도 고처리량 네트워킹을 지원할 수 있습니다.
스케일업 네트워킹: AI 인프라의 새로운 개척지
다음 아키텍처 변화는 더 빠른 기존 어댑터를 넘어설 수 있습니다. 스케일아웃 네트워킹은 패브릭을 통해 서버를 연결합니다. 스케일업 네트워킹은 여러 랙에 걸칠 수 있는 가속기 전반으로 고성능 통신을 확장합니다. 설계에 따라 이는 가속기 인식 통신, 메모리 시맨틱스 및 조정된 엔드포인트와 전송 동작에 대한 요구 사항을 도입할 수 있습니다.
Ethernet for Scale-Up Networking(ESUN) 및 Scale-Up Ethernet Transport(SUE-T)를 포함한 Open Compute Project 이니셔티브는 이러한 방향을 보여줍니다.
이러한 아키텍처가 성숙하고 대규모 배포를 달성한다면, 네트워킹 기능은 가속기 실리콘에 더 가까워지거나 긴밀하게 통합된 패키지로 이동할 수 있습니다. 이는 기존 어댑터의 역할을 바꾸고 가속기 공급업체, 네트워크 실리콘 공급업체 및 시스템 설계자 간의 가치를 재분배할 수 있습니다.
온다이 스케일업 네트워킹은 아직 당사의 Ethernet Adapter & Smart NIC 연구에서 다루지 않고 있지만, 이러한 신흥 아키텍처가 어떻게 발전하는지 면밀히 관찰하고 있습니다. 상호운용성, 소프트웨어 성숙도, 제조 및 고객 검증이 어떤 접근 방식이 상업적 견인력을 얻을지 결정할 것입니다. 통합은 일부 데이터 이동 오버헤드를 줄일 수 있지만, 시스템 수준의 전력 절감은 가정하기보다 입증되어야 합니다.
이더넷 어댑터와 Smart NIC를 형성하는 세 가지 시장 발전
1. 시스템 수준 성능
더 높은 포트 속도만으로 더 나은 워크로드 성능이 보장되지는 않습니다. 가속기 활용률, 작업 완료 시간 및 총 시스템 비용의 개선이 차별화에 대한 더 강력한 증거를 제공합니다.
2. 프로그래밍 가능한 오프로드의 경제성
DPU/IPU는 범용 처리와 추가 가속 로직을 포함하므로 고정 기능 어댑터보다 훨씬 더 많은 전력을 소비할 수 있습니다. 인프라 기능의 오프로드가 호스트 CPU 수요를 줄이거나 격리를 개선할 때 이러한 비용은 정당화될 수 있습니다. 올바른 비교 기준은 어댑터 전력만 따로 보는 것이 아니라 순 시스템 수준 전력 및 성능입니다.
3. 대규모 스케일업 배포
표준의 진전과 제품 발표도 중요하지만, 상호운용성, 고객 검증 및 반복 가능한 배포가 상업적 채택을 보여주는 더 강력한 지표입니다. 제품 리더는 또한 신흥 아키텍처가 시스템 수준에서 전력 효율성과 열 밀도를 개선하는지 평가해야 합니다.
전략적 시사점
AI 네트워킹 시장은 단일 어댑터 아키텍처로 수렴하지 않을 가능성이 높습니다. 범용 NIC, DPU/IPU 및 AI 최적화 어댑터는 서로 다른 요구 사항을 충족하며, 새롭게 부상하는 온다이 스케일업 설계는 연결성과 전송 기능의 위치를 바꿀 수 있습니다.
더 근본적인 변화는 단순히 더 빠른 네트워킹으로의 전환이 아니라, 컴퓨팅 시스템 전반에 걸친 네트워킹 기능의 재분배입니다. 공급업체와 인프라 제공업체의 성공은 어떤 기능에 전용 하드웨어가 필요한지, 어떤 기능에 프로그래밍 가능성이 필요한지, 그리고 어떤 기능이 가속기 또는 패브릭에 통합될 수 있는지를 식별하는 데 달려 있습니다. 성공하는 설계는 성능, 프로그래밍 가능성 및 전력 효율성의 균형을 맞춰 측정 가능한 시스템 수준의 가치를 제공할 것입니다.
이러한 아키텍처가 발전함에 따라 Ethernet Adapter와 Smart NIC의 채택 및 시장 포지셔닝을 이해하는 일이 점점 더 중요해질 것입니다.