NVIDIA Quantum InfiniBand 스위치와 어플라이언스

InfiniBand는 컴퓨팅 노드 간의 저지연 시간, 고대역폭 통신을 위해 구축된 고성능 인터커넥트 표준입니다. 수백 또는 수천 개의 GPU에 걸쳐 연산을 분산하는 AI 학습 및 HPC 워크로드의 경우 네트워크 지연 시간은 작업 완료 시간에 직접적인 영향을 미칩니다. 또한 NVIDIA Quantum InfiniBand는 AllReduce와 같은 집합 연산을 스위치 패브릭 자체로 오프로드하여 GPU 사이클을 실제 연산을 위해 확보하는 인네트워크 컴퓨팅을 지원하는 유일한 인터커넥트 플랫폼입니다.

기존 스위치 설계는 플러그 가능한 광 트랜시버를 사용하여 스위치 ASIC를 광섬유에 연결합니다. 각 트랜시버는 전력을 소비하고 열을 발생시키며 고장날 수 있는 개별 구성 요소입니다. 클러스터 규모에서 이는 배포 수명 동안 수천 개의 개별 트랜시버를 관리하고 교체해야 한다는 것을 의미합니다.

NVIDIA Quantum-X InfiniBand 포토닉스 스위치는 광학 엔진을 스위치 실리콘과 직접 통합하여 플러그 가능한 트랜시버를 완전히 제거합니다. 이를 통해 칩과 광섬유 간의 전기 경로를 단축하여 전력 소비량과 지연 시간을 줄이는 동시에 개별 구성 요소의 수를 줄여 신뢰성을 개선하고 장기 운영을 간소화합니다.

인-네트워크 컴퓨팅은 호스트 CPU 또는 GPU를 포함하지 않고도 네트워크 패브릭 내부에서 데이터 처리 작업을 실행할 수 있는 NVIDIA Quantum 스위치의 기능입니다. 핵심 기능은 AllReduce와 같은 집합 연산을 스위치로 직접 오프로드하는 NVIDIA SHARP입니다. 분산형 AI 학습의 경우 이를 통해 노드 간 통신에 소요되는 시간을 단축하고 연산을 위한 GPU 사이클을 확보합니다. SHARP는 대부분의 병렬 시뮬레이션 코드의 핵심에서 집합 연산을 가속화하여 지연 시간과 CPU 오버헤드를 줄입니다. NCCL, OpenMPI, UCX 또는 기타 표준 호환 MPI 스택을 활용하는 애플리케이션은 최소한의 코드 변경으로 이점을 얻을 수 있으므로, AI 학습부터 분자 역학, 기후 모델링에 이르기까지 다양한 도메인에서 인네트워크 컴퓨팅이 유용하게 활용됩니다.

새로운 대규모 AI 배포의 경우 최상의 선택은 NVIDIA Quantum-X800 InfiniBand입니다. 800Gb/s XDR 연결을 제공하며, 최대 스케일 아웃 대역폭, 저지연 시간, 적응형 라우팅, 혼잡 제어, AI 및 HPC 집합 연산을 위한 SHARP 인네트워크 컴퓨팅을 필요로 하는 차세대 AI 팩토리를 위해 설계되었습니다. Quantum-2 NDR 400Gb/s는 Hopper 세대 또는 비용 최적화 배포에 여전히 강력한 옵션이지만, 새로운 Blackwell 규모 클러스터의 경우 Quantum-X800이 최고의 장기 성능 런웨이를 제공합니다. Q3200은 Quantum-X800 2U 공냉식 스위치 플랫폼으로, 높은 포트 밀도와 실용적인 마이그레이션 경로를 필요로 하는 대규모 또는 혼합 세대 환경에 매우 적합합니다.

NVIDIA Unified Fabric Manager(UFM)는 NVIDIA Quantum InfiniBand 배포를 위한 패브릭 관리 플랫폼입니다. UFM(통합 어플라이언스 및 독립형 소프트웨어로 제공됨)은 패브릭 전반에 걸쳐 프로비저닝, 실시간 모니터링, 진단 및 선제적 트러블슈팅을 처리합니다. NVIDIA UFM Cyber-AI는 보안 위협이나 하드웨어 문제가 작업에 영향을 미치기 전에 나타낼 수 있는 이상 네트워크 동작을 감지하기 위한 전용 어플라이언스입니다.

이는 기존 클러스터를 확장하거나 단계적으로 구축하는 조직이 공통적으로 고려해야 할 사항입니다. 일반적으로 NVIDIA Quantum InfiniBand는 상위 호환성을 위해 설계되었습니다. 서로 다른 InfiniBand 세대에서 작동하는 어댑터와 스위치가 적절한 일반 속도로 자동 협상합니다. Quantum-X800(XDR, 800Gb/s) 및 Quantum-2(NDR, 400Gb/s) 환경을 연결해야 하는 배포를 위해 NVIDIA는 이러한 두 세대를 연결하기 위해 특별히 설계된 멀티 스피드 스위치인 Q3200을 권장합니다. Q3200을 활용한 토폴로지, 포트 매핑 및 패브릭 구성에 대한 구체적인 설계 고려 사항은 NVIDIA InfiniBand 스위치 문서에 설명되어 있습니다.

네, NVIDIA Skyway™ 어플라이언스는 이러한 사용 사례를 위해 특별히 설계되었으며, InfiniBand-to-Ethernet 게이트웨이를 제공합니다. Skyway를 통해 InfiniBand 컴퓨팅 클러스터는 환경을 변경할 필요 없이 이더넷 연결 스토리지 시스템, 관리 네트워크 또는 기타 이더넷 인프라와 통신할 수 있습니다. 크로스 패브릭 대역폭 수요가 증가함에 따라 여러 Skyway 어플라이언스를 점진적으로 배포하고 확장할 수 있습니다.