네트워크가 AI 데이터센터를 정의합니다
확장 가능하고 안전한 고성능 기가스케일 AI 공장을 위한 차세대 네트워킹.
개요
AI 팩토리 시대를 위해 설계된 네트워킹
AI 팩토리는 이제 수만 개, 머지않아 수백만 개의 달하는 GPU로 구성되어 하나의 분산 컴퓨팅 엔진으로 작동합니다. 가속기를 최대한 활용하기 위해 AI 워크로드에는 결정론적 지연 시간, 무손실 처리량, 안정적인 반복 시간, 데이터센터 내뿐만 아니라 여러 사이트 전반에 걸쳐 확장할 수 있는 기능이 필요합니다.
NVIDIA 네트워킹은 NVIDIA NVLink™ 스케일 업, NVIDIA Quantum InfiniBand 및 Spectrum-X™ 이더넷 스케일 아웃, Spectrum-XGS 멀티 데이터센터 스케일 어크로스, 인프라 서비스를 위한 NVIDIA BlueField™ DPU 및 DOCA™, 차세대 실리콘 포토닉스 플랫폼을 결합하여 이를 가능하게 하는 풀스택 패브릭을 제공하여 세계에서 가장 진보된 AI 팩토리를 구동합니다.
AI 에이전트를 위한 신뢰할 수 있는 기반
NVIDIA Sentry 및 BlueField™는 NVIDIA OpenShell 레퍼런스 아키텍처에서 실행되는 실리콘 내장형, 대역 외 에이전트 보안을 제공합니다.
기술
AI 시대를 정의하는 NVIDIA 네트워킹 혁신
NVIDIA는 GPU, SuperNIC™, DPU, 스위치, 광학 장치, 소프트웨어를 통합하여 설계된 최고 수준의 아키텍처로 결합하여 대규모에서도 저하 없이 예측 가능한 성능을 제공합니다.
장점
AI 팩토리를 위한 가속화 네트워킹
뉴스
최신 네트워킹 소식 받아보기
NVIDIA 네트워킹 FAQ
NVIDIA 네트워킹은 AI 팩토리를 위해 특별히 설계된 풀스택, 가속기 최적화 패브릭으로, NVLink 스케일 업, Spectrum-X 이더넷 및 Quantum InfiniBand 스케일 아웃, Spectrum-XGS 스케일 어크로스, 인프라 서비스를 위한 BlueField DPU(보안 스케일인 액세스 및 KV 캐시를 위한 컨텍스트 스케일 포함), 실리콘 포토닉스 플랫폼을 결합합니다. 이러한 기술이 결함되어 수만 개에서 수백만 개에 이르는 GPU 배포 환경 전반에서 AI 워크로드에 필요한 혁신적인 기능과 성능 특성을 제공합니다.
AI 팩토리는 이제 수만 개의 GPU로 구성되어 하나의 분산 컴퓨팅 엔진으로 작동하며, 이에 따라 네트워크는 모든 AI 워크로드의 핵심 경로가 되었습니다. NVIDIA 네트워킹은 결정론적 지연 시간, 무손실 처리량, 안정적인 반복 시간을 제공해 어떤 규모에서든 학습, 추론, RAG 워크로드 전반에서 GPU를 최대한 활용할 수 있도록 합니다.
NVIDIA는 AI 팩토리를 위한 네 가지 주요 네트워킹 플랫폼을 제공합니다. 하이퍼스케일 AI 클라우드 네트워킹을 위한 Spectrum-X 이더넷은 기존 이더넷보다 1.6배 높은 성능을 제공하며, Quantum-X800 InfiniBand는 인네트워크 컴퓨팅으로 저지연 AI 학습과 HPC를 지원합니다. BlueField DPU는 인프라 서비스, 보안, 스토리지 오프로드를 담당하고, 실리콘 포토닉스 코패키지드 옵틱스는 100만 개 GPU 규모에서 전력 효율적인 스위칭을 구현합니다. Spectrum-XGS 이더넷은 아 모든 것을 여러 사이트에 걸쳐 통합 AI 슈퍼팩토리로 확장합니다.
NVIDIA Spectrum-X 이더넷은 AI를 위해 특별히 설계된 네트워킹 플랫폼으로, 기존 이더넷보다 1.6배 더 높은 네트워크 성능을 제공합니다. 멀티테넌트 AI 워크로드에 가속 RoCE 성능, 결정론적 지연 시간, 성능 격리를 제공하며, Spectrum-XGS 스케일 크로스 기술을 통해 여러 데이터센터로 확장해 분산된 시설을 하나의 고성능 AI 패브릭으로 통합합니다.
NVIDIA Quantum InfiniBand는 AI 및 HPC 워크로드를 위해 초저지연, 인네트워크 컴퓨팅, 차세대 실리콘 포토닉스 코패키지드 옵틱스 시스템을 제공하는 고성능 네트워킹 플랫폼입니다. Quantum InfiniBand는 집합 연산을 가속하는 SHARP 인네트워크 컴퓨팅과 기존 네트워킹보다 1,000배 더 빠르게 링크 장애에서 복구하는 자가 치유 패브릭을 통해 AI 학습 클러스터와 과학 슈퍼컴퓨터를 위한 업계 최고 속도와 확장 가능한 네트워킹을 제공합니다.
NVIDIA BlueField 플랫폼은 전례 없는 성능, 효율성, 혁신을 이끌어내 AI를 위해 특별히 설계된 새로운 유형의 데이터센터인 AI 팩토리를 구동합니다. BlueField는 강력한 컴퓨팅 성능과 네트워킹, 스토리지 및 보안을 위한 통합 소프트웨어 정의 하드웨어 가속기를 통해 모든 환경의 모든 워크로드를 위한 안전한 가속 인프라를 구축하며, 자율 에이전트가 대규모로 추론하고 협업하며 행동하는 에이전틱 AI의 새로운 시대를 열어갑니다.
NVIDIA Spectrum-XGS 이더넷은 분산된 데이터센터를 하나의 통합 AI 슈퍼팩토리로 연결하는 스케일어크로스 네트워킹 기술입니다. Spectrum-XGS는 멀티사이트 AI 배포에서 기존 사이트 간 이더넷 대비 1.9배 높은 NCCL 성능을 제공하여, 이를 통해 AI 팩토리는 시설 내 Spectrum-X 배포와 동일한 고성능 패브릭 특성을 유지하면서도 단일 건물의 전력 및 물리적 용량 한계를 넘어 확장할 수 있도록 지원합니다.
NVIDIA 실리콘 포토닉스 네트워킹은 광학 구성 요소를 스위치 ASIC에 직접 통합해 플러그형 트랜시버를 제거함으로써 기존 플러그형 설계 대비 5배 향상된 전력 효율성과 가동 시간을 제공합니다. 코패키지드 실리콘 포토닉스는 100만 개 GPU 규모의 네트워킹과 멀티사이트 AI 팩토리를 가능하게 하는 물리 계층 기술로, 삽입 손실을 줄여 신호 무결성과 신뢰성을 크게 향상시킵니다.
NVIDIA DOCA는 에이전틱 AI를 위한 NVIDIA BlueField와 NVIDIA ConnectX의 잠재력을 최대한 끌어내는 통합 소프트웨어 플랫폼입니다. 네트워킹, AI 네이티브 스토리지, 런타임 보안, 텔레메트리, 수명주기 관리를 아우르는 SDK, 라이브러리, 엔터프라이즈급 마이크로서비스, 오케스트레이션 프레임워크를 제공해 프로덕션 AI 워크로드를 가속화하고 보호하며 확장합니다. DOCA는 지능형 고성능 AI 팩토리 인프라를 구축하고 운영하기 위한 소프트웨어 기반입니다.