Plataforma de Redes NVIDIA Spectrum-X Ethernet
Acelere el desempeño de la red de IA hasta 1,6 veces en comparación con Ethernet comercial estándar (OTS).
Introducción
La Primera Plataforma de Redes Ethernet del Mundo para la IA
Entrene e implemente la IA a escala masiva con la plataforma de redes NVIDIA Spectrum-X™ Ethernet. Impulsada por el estrecho acoplamiento entre el conmutador NVIDIA Spectrum-X Ethernet y NVIDIA Spectrum-X Ethernet SuperNIC™, la plataforma ofrece el más alto desempeño para la IA, ya que conecta estructuras de computación de IA dentro del data center, escala en múltiples data centers de IA con Spectrum-XGS Ethernet y admite una innovadora conmutación óptica coempaquetada para mejorar la eficiencia energética y la resiliencia de las cargas de trabajo de IA.
Beneficios
Potente Desempeño en la Nube de IA
Spectrum-X Ethernet es una solución revolucionaria para desarrollar nubes de IA de múltiples inquilinos y a gran escala. Mediante Spectrum-X Ethernet, las organizaciones pueden mejorar significativamente el desempeño y la eficiencia energética de las nubes de IA y obtener una mayor previsibilidad y consistencia, lo que acelera el tiempo de lanzamiento al mercado y una ventaja competitiva superior.
Ancho de banda casi perfecto a escala
Latencia extremadamente baja
Optimización de la pila de forma integral
Extensiones avanzadas de RoCE para comunicaciones de IA escalables
Rendimiento determinista y aislamiento del rendimiento
Sistema Operativo de Red Abierta: SONiC y NVIDIA® Cumulus®
Desempeño Mejorado en la Nube de IA
NVIDIA Spectrum-X Ethernet mejora el desempeño de la red en 1.6 veces, lo que acelera el procesamiento, el análisis y la ejecución de las cargas de trabajo de IA y, a su vez, el desarrollo y la implementación de soluciones de IA.
Ethernet Acelerado para Hiperescala
Impulsado por las innovaciones de redes de NVIDIA, Spectrum-X Ethernet se basa completamente en estándares y es compatible con pilas Ethernet abiertas (SONiC) a escala de nube.
Optimización y Simulación de Pila Completa
Spectrum-X Ethernet se ajusta y valida en toda la pila completa de hardware y software de NVIDIA, lo que crea una solución Ethernet incomparable para las nubes de IA. NVIDIA DSX Air integra la simulación de Spectrum-X Ethernet con la fábrica de IA de pila completa, incluidos componentes líderes en su clase de NVIDIA y socios del ecosistema. NVIDIA Minerva™ ingiere telemetría de GPU, switches Spectrum-X Ethernet y NVLink™, SuperNIC, DPU, programadores de tareas y cargas de trabajo de IA para optimizar el rendimiento de las fábricas de IA.
Conecte Data Centers para la IA a Gigaescala
NVIDIA Spectrum-XGS Ethernet está diseñada para escalar en múltiples data centers dispares, ubicados en diferentes edificios o separados por cientos de kilómetros, lo que les permite funcionar como una sola superfábrica de IA unificada. Spectrum-XGS Ethernet usa un algoritmo de control de congestión consciente de la topología, una administración de latencia precisa y una telemetría integral para ofrecer un desempeño de NCCL 1.9 veces mayor en entornos de data centers cruzados.
Fotónica de Silicio de NVIDIA
Spectrum-X Ethernet Photonics reduce el consumo de energía, aumenta la confiabilidad y mejora la productividad de la IA al situar la óptica en el mismo paquete que el ASIC del conmutador. Spectrum-X Ethernet Photonics permite una eficiencia energética de red cinco veces mejor, una resiliencia de red mayor y un tiempo de ejecución sostenido de aplicaciones de IA cinco veces más largo, en comparación con las redes tradicionales basadas en transceptores conectables.
Spectrum-X Multiplano
El multiplano permite a Ethernet escalar de miles a cientos de miles de GPU mediante una topología plana de dos niveles. Al dividir la SuperNIC de cada GPU en dos o más planos de red independientes, supera los límites del plano único, mejora el desempeño y la resiliencia y escala las redes Spectrum-X Ethernet de hasta 128K GPU en dos niveles, 64 veces más que las redes de un solo plano.
Spectrum-X Ethernet a Escala de Bastidor
Spectrum-X Ethernet está completamente integrado en la arquitectura a escala de bastidor NVIDIA MGX™ ETL, lo que ofrece redes Ethernet de alto rendimiento para bastidores de computación ultradensos y amplía las innovaciones de MGX en refrigeración líquida y confiabilidad a una variedad más amplia de opciones de computación. El cartucho de cables de cobre de bajo consumo conecta las bandejas de conmutadores Spectrum-X Ethernet con refrigeración líquida con hasta 256 GPU en un solo bastidor, mientras que la conectividad óptica del panel frontal permite la escalabilidad a dominios de GPU más grandes.
Productos
Qué Hay Dentro de la Plataforma
Conmutadores NVIDIA Spectrum-X Ethernet
Los conmutadores NVIDIA Spectrum-X Ethernet están diseñados específicamente para acelerar las estructuras de IA generativa a gran escala. Los conmutadores Spectrum-X Ethernet ofrecen un alto ancho de banda y un aislamiento de desempeño efectivo para las fábricas de IA, lo que escala la infraestructura a cientos de miles de GPU y permite el entrenamiento y la implementación de los modelos de IA más grandes del mundo.
NVIDIA Spectrum-X Ethernet SuperNIC
Las NVIDIA Spectrum-X Ethernet SuperNIC son nuevas clases de aceleradores de red diseñados específicamente para potenciar las cargas de trabajo de IA a gran escala. Las SuperNIC de NVIDIA, diseñadas para computaciones masivamente paralelas que requieren mucha red, proporcionan una conectividad de red RDMA sobre Ethernet Convergente (RoCE) de alto ancho de banda entre los servidores GPU, lo que optimiza la eficiencia pico de las cargas de trabajo de IA.
Aplicaciones
Cómo se Utiliza la Tecnología Spectrum-X Ethernet
Socios
Con Quién Estamos Trabajando
-
Servidor
-
Almacenamiento
-
Orquestación
Recursos
Continúe Explorando Spectrum-X Ethernet
Preguntas Frecuentes sobre la Plataforma NVIDIA Spectrum-X Ethernet
La plataforma NVIDIA Spectrum-X Ethernet es la primera plataforma Ethernet integral y optimizada por IA del mundo para fábricas de IA generativa con múltiples usuarios. Combina switches Ethernet diseñados específicamente y SuperNIC para ofrecer un alto ancho de banda efectivo, baja latencia y un sólido aislamiento del rendimiento para la infraestructura de IA a hiperescala, todo basado en Ethernet estándar.
NVIDIA Spectrum-X Ethernet está diseñado para proveedores de servicios de nube y grandes empresas que ejecutan cargas de trabajo de IA con múltiples usuarios a hiperescala. Admite entornos que van desde grandes implementaciones empresariales hasta fábricas masivas de IA en la nube con cientos de miles de conexiones de GPU.
Spectrum-X Ethernet usa control de congestión avanzado basado en telemetría para proporcionar aislamiento de ruido entre los inquilinos. El aislamiento de desempeño integrado garantiza que las cargas de trabajo de IA de cada inquilino se ejecuten de manera predecible y consistente, lo que mejora la calidad del servicio en trabajos de IA simultáneos.
El enrutamiento adaptativo es una función en la que el switch Spectrum-X Ethernet y SuperNIC trabajan en estrecha coordinación para enrutar dinámicamente el tráfico, lo que posibilita el más alto ancho de banda efectivo y resiliencia de red para las estructuras de IA. Está dirigido específicamente a las redes sin pérdidas para evitar la degradación del desempeño a escala.
Spectrum-X Ethernet escala a cientos de miles de conexiones de GPU en topologías eficientes de leaf/spine de dos niveles. Con las tecnologías Spectrum-X Multiplane, las redes pueden escalar hasta 128,000 GPU en dos niveles (64 veces más que las redes de un solo plano) al dividir el tráfico de SuperNIC de cada GPU en dos o más planos de red independientes.
Spectrum-XGS Ethernet es una extensión de la plataforma Spectrum-X diseñada para la IA "a gigaescala", lo que permite a múltiples data centers distribuidos, potencialmente separados por cientos de kilómetros, funcionar como una sola superfábrica de IA. Presenta un algoritmo de control de congestión modificado que tiene en cuenta la distancia entre las instalaciones, y acelera los colectivos de NCCL de múltiples sitios en 1.9 veces en comparación con los enfoques estándar.
La generación más nueva (para fábricas de IA de NVIDIA Vera Rubin) se basa en Spectrum-6 ASIC, y ofrece 102.4 Tb/s por chip de switch con 200 G SerDes, el doble de ancho de banda por carril en comparación con la generación anterior. El SN6600 ofrece 128 puertos de conectividad 800 G OSFP, mientras que el SN6800 empaqueta 512 puertos de 800 G en un Formato de 5U.
Los switches Spectrum-X Ethernet Photonics usan tecnología de fotónica de silicio (óptica empaquetada conjuntamente) para ofrecer un tiempo medio entre interrupciones (MTBI) diez veces mayor, un tiempo de actividad 5 veces más largo y una eficiencia energética 5 veces mejor en comparación con los switches tradicionales basados en transceptores enchufables. Usan el formato de fibra óptica ultradenso MMC-16 para el uso eficiente del espacio de los switches.
La plataforma Spectrum-X Ethernet admite tres SuperNIC en todas las generaciones: BlueField™-3 (para sistemas de la era de NVIDIA Hopper, optimizados para RDMA/RoCE y aislamiento de múltiples inquilinos), ConnectX™-8 (rendimiento total de 800 Gb/s a través de 2×400 G, PCIe Gen6, para sistemas NVIDIA Blackwell) y ConnectX-9 (1,600 Gb/s por GPU a través de 4×200 G SerDes, PCIe Gen6, para sistemas NVIDIA Vera Rubin NVL72). Todas las SuperNIC descargan comunicaciones colectivas y proporcionan telemetría para el enrutamiento adaptativo.
NVIDIA Minerva proporciona observabilidad integral de la red al ingerir telemetría de las cargas de trabajo de infraestructura e IA para ofrecer inteligencia procesable que maximiza el rendimiento de las fábricas de IA, incluidas las horas de GPU, el tiempo de actividad de los clústeres y la producción de tokens. Para la implementación, NVIDIA DSX Air simula una fábrica y un ecosistema de IA completos, lo que permite a los clientes validar las ofertas de hardware y socios para acelerar el tiempo hasta el primer token y garantizar el desempeño a escala desde el primer día.
