Acelere el desempeño de la red de IA hasta 1,6 veces en comparación con Ethernet comercial estándar (OTS).
Entrene e implemente la IA a escala masiva con la plataforma de redes NVIDIA Spectrum-X™ Ethernet. Impulsada por el estrecho acoplamiento entre el conmutador NVIDIA Spectrum-X Ethernet y NVIDIA Spectrum-X Ethernet SuperNIC™, la plataforma ofrece el más alto desempeño para la IA, ya que conecta estructuras de computación de IA dentro del data center, escala en múltiples data centers de IA con Spectrum-XGS Ethernet y admite una innovadora conmutación óptica coempaquetada para mejorar la eficiencia energética y la resiliencia de las cargas de trabajo de IA.
Spectrum-X Ethernet es una solución revolucionaria para desarrollar nubes de IA de múltiples inquilinos y a gran escala. Mediante Spectrum-X Ethernet, las organizaciones pueden mejorar significativamente el desempeño y la eficiencia energética de las nubes de IA y obtener una mayor previsibilidad y consistencia, lo que acelera el tiempo de lanzamiento al mercado y una ventaja competitiva superior.
NVIDIA Spectrum-X Ethernet mejora el desempeño de la red en 1,6 veces, lo que acelera el procesamiento, el análisis y la ejecución de las cargas de trabajo de IA y, a su vez, el desarrollo y la implementación de soluciones de IA.
Impulsado por las innovaciones de redes de NVIDIA, Spectrum-X Ethernet se basa completamente en estándares y es compatible con pilas Ethernet abiertas (SONiC) a escala de nube.
Spectrum-X Ethernet se ajusta y valida en toda la pila completa de hardware y software de NVIDIA, lo que crea una solución Ethernet incomparable para las nubes de IA. NVIDIA DSX Air integra la simulación de Spectrum-X Ethernet con la fábrica de IA de pila completa, lo que incluye los mejores componentes de NVIDIA y socios del ecosistema.
NVIDIA Spectrum-XGS Ethernet está diseñada para escalar en múltiples data centers dispares, ubicados en diferentes edificios o separados por cientos de kilómetros, lo que les permite funcionar como una sola superfábrica de IA unificada. Spectrum-XGS Ethernet usa un algoritmo de control de congestión consciente de la topología, una administración de latencia precisa y una telemetría integral para ofrecer un desempeño de NCCL 1,9 veces mayor en entornos de data centers cruzados.
Spectrum-X Ethernet Photonics reduce el consumo de energía, aumenta la confiabilidad y mejora la productividad de la IA al situar la óptica en el mismo paquete que el ASIC del conmutador. Spectrum-X Ethernet Photonics permite una eficiencia energética de red cinco veces mejor, una resiliencia de red diez veces mayor y un tiempo de ejecución sostenido de aplicaciones de IA cinco veces más largo, en comparación con las redes tradicionales basadas en transceptores conectables.
El multiplano permite a Ethernet escalar de miles a cientos de miles de GPU mediante una topología plana de dos niveles. Al dividir la SuperNIC de cada GPU en dos o más planos de red independientes, supera los límites del plano único, mejora el desempeño y la resiliencia y escala las redes Spectrum-X Ethernet de hasta 128 K GPU en dos niveles, 64 veces más que las redes de un solo plano.
Spectrum-X Ethernet está completamente integrado en la arquitectura a escala de bastidor NVIDIA MGX™ ETL, lo que ofrece redes Ethernet de alto rendimiento para bastidores de computación ultradensos y amplía las innovaciones de MGX en refrigeración líquida y confiabilidad a una variedad más amplia de opciones de computación. El cartucho de cables de cobre de bajo consumo conecta las bandejas de conmutadores Spectrum-X Ethernet con refrigeración líquida con hasta 256 GPU en un solo bastidor, mientras que la conectividad óptica del panel frontal permite la escalabilidad a dominios de GPU más grandes.
Los conmutadores NVIDIA Spectrum-X Ethernet están diseñados específicamente para acelerar las estructuras de IA generativaa gran escala. Los conmutadores Spectrum-X Ethernet ofrecen un alto ancho de banda y un aislamiento de desempeño efectivo para las fábricas de IA, lo que escala la infraestructura a cientos de miles de GPU y permite el entrenamiento y la implementación de los modelos de IA más grandes del mundo.
Las NVIDIA Spectrum-X Ethernet SuperNIC son nuevas clases de aceleradores de red diseñados específicamente para potenciar las cargas de trabajo de IA a gran escala. Las SuperNIC de NVIDIA, diseñadas para computaciones masivamente paralelas que requieren mucha red, proporcionan una conectividad de red RDMA sobre Ethernet Convergente (RoCE) de alto ancho de banda entre los servidores GPU, lo que optimiza la eficiencia pico de las cargas de trabajo de IA.