NVIDIA 네트워킹
최신 워크로드를 위한 가속화 네트워크
NVIDIA는 InfiniBand 및 이더넷 네트워킹 기술을 지원하는 각종 엔드 투 엔드 솔루션을 제공합니다. InfiniBand 또는 이더넷 중 선택지를 제공하는 NVIDIA의 가속화 네트워킹 솔루션을 이용하면 기업은 모든 최신 워크로드에 걸쳐 배포 준비 개발을 구현할 수 있으며, 가속 컴퓨팅의 새로운 시대에 발맞추는 스토리지 요건을 충족하는 인프라를 구축할 수 있습니다.

스위치 / 어댑터 / 트랜시버 / 케이블을 포함한 네트워크 전 구간에서 적합한 제품을 제공하고 있습니다.
멀티 GPU를 위한 InfiniBand 네트워크
GPU 서버간 고속 네트워크 연결
하나의 큰 AI모델을 학습하기 위해선 많은 수의 GPU를 필요로 합니다. 서버 내부에서는 여러 개 GPU들이 NVSwitch 칩을 사용하여 연결되지만, GPU 서버들 간은 InfiniBand 네트워크로 클러스터 구성하게 됩니다. InfiniBand 네트워크는 GPU간 통신을 위한 고속 연결 방법이며, 모델을 분산해서 처리할 때 병목 없이 처리되도록 합니다.

주요 GPU 서버들은 다음과 같은 네트워크 스위치로 연결할 수 있습니다 (예시)
InfiniBand 스위치
NVIDIA의 InfiniBand 제품군은 최고의 생산성을 제공하므로 컴퓨팅 클러스터 및 컨버지드 데이터센터가
어떠한 규모로든 운영될 수 있도록 지원하는 동시에 운영 비용과 복잡성을 줄여줍니다.
  • DGX A100, ConnextX-6 연결을 위한 QM8700
  • DGX H100이상, ConnectX-7 연결을 위한 QM9700
  • DGX B300이상, ConnectX-8 연결을 위한 Quantum-X800 시리즈
NVIDIA Silicon Photonics
Co-Packaged Optics (CPO) 기술

NVIDIA는 스위칭 칩에 광케이블를 직접 연결하는 기술을 개발하였습니다.
스위칭 칩에 광 core를 연결해주는 칩 패키징 기술 CPO를 사용함으로써
전력소모를 줄이고 더욱 집적도를 높일 수 있게 되었습니다. 이 네트워킹
기술은 800G 이상의 차세대 네트워크 제품들부터 선보입니다.

NVIDIA는 스위칭 칩에 광케이블를 직접 연결하는 기술을 개발하였습니다. 스위칭 칩에 광 core를 연결해주는 칩 패키징 기술 CPO를 사용함으로써 전력소모를 줄이고 더욱 집적도를 높일 수 있게 되었습니다. 이 네트워킹 기술은 800G 이상의 차세대 네트워크 제품들부터 선보입니다.

Quantum-X800 InfiniBand 스위치

NVIDIA는 Silicon Photonics CPO 칩 패키징 기술을 사용한 네트워크 제품으로
800G InfiniBand 스위치 모델을 소개하였습니다. CPO 기술 덕분에 트랜시버
없이 스위치에 MPO 케이블 144개를 직접 연결할 수 있습니다.

NVIDIA는 Silicon Photonics CPO 칩 패키징 기술을 사용한 네트워크 제품으로 800G InfiniBand 스위치 모델을 소개하였습니다. CPO 기술 덕분에 트랜시버 없이 스위치에 MPO 케이블 144개를 직접 연결할 수 있습니다.

이더넷 스위치
NVIDIA는 데이터센터에 다양한 옵션을 갖춘 완전한 범위의 이더넷 솔루션을 제공하여 다양하고 유연한 선택지와 경쟁 우위를 제공합니다. 탑재된 OS인 cumulus Linux는 복잡한 Enterprise 네트워크 환경의 자동화 운용을 용이하게 해줍니다. 최신의 Spectrum-4 칩은 800G의 높은 속도를 지원합니다.
  • 일반적인 100G/200G 환경에서 무난히 사용할 수 있는 SN3700
  • SuperPOD와 같은 많은 수의 노드를 연결할 때 유용한 SN4600
  • SR4는 물론 SR8 타입의 트랜시버도 지원하는 SN4700/5400
  • OSFP 타입의 트랜시버를 사용하는 SN5600
어댑터 및 DPU
NVIDIA CONNECTX INFINIBAND 어댑터

NVIDIA가 자체 설계한 ConnectX칩을 사용하여 다양한 어댑터 및 DPU를 제공하고 있습니다. 보다 빠른 속도와 혁신적인 인-네트워크 컴퓨팅을 활용하는 NVIDIA ConnectX InfiniBand 스마트 어댑터는 뛰어난 성능 및 확장성을 달성합니다

NVIDIA가 자체 설계한 ConnectX칩을 사용하여 다양한 어댑터 및 DPU를 제공하고 있습니다. 보다 빠른 속도와 혁신적인 인-네트워크 컴퓨팅 활용하는 NVIDIA ConnectX InfiniBand 스마트 어댑터는 뛰어난 성능 및 확장성을 달성합니다

NVIDIA DPU를 통한 데이터센터 혁신

BlueField DPU는 광범위한 고급 네트워킹, 스토리지 및 보안 서비스를 오프로드, 가속 및 격리하여 클라우드, 데이터센터부터 엣지까지 이르는 모든 환경에서 모든 워크로드에 안전하고 가속화된 인프라를 제공합니다. BlueField DPU는 가장 까다로운 워크로드를 해결하기 위한 강력한 컴퓨팅, 완전한 인프라-온-칩 프로그래밍 기능과 고성능 네트워킹을 모두 지원합니다.

BlueField DPU는 광범위한 고급 네트워킹, 스토리지 및 보안 서비스를 오프로드, 가속 및 격리하여 클라우드, 데이터센터부터 엣지까지 이르는 모든 환경에서 모든 워크로드에 안전하고 가속화된 인프라를 제공합니다. BlueField DPU는 가장 까다로운 워크로드를 해결하기 위한 강력한 컴퓨팅, 완전한 인프라-온-칩 프로그래밍 기능과 고성능 네트워킹을 모두 지원합니다.

케이블 및 트랜시버
NVIDIA LinkX 케이블 및 트랜시버 제품군은 400G, 800G 등 이더넷용과 HDR, NDR 및 800G 이상 InfiniBand용 제품을 제공합니다.  
NVIDIA LinkX 케이블 및 트랜시버 제품군은 400G, 800G 등 이더넷용과 HDR, NDR 및 800G 이상 InfiniBand용 제품을 제공합니다.  
  • DAC 케이블은 단거리용 구리 케이블이며, 매우 두껍습니다.
  • AOC는 트랜시버와 광케이블이 붙어있는 보급형 케이블입니다.
  • 트랜시버는 별도의 광케이블이 필요합니다.
  • DGX-A100 등 200G HDR 연결시, AOC 케이블을 주로 사용하며
  • DGX-H100 이상 400G NDR 연결시, 트랜시버를 사용합니다