Plataforma de Rede NVIDIA Spectrum-X Ethernet
Acelere o desempenho da rede de IA em 1,6 vezes em relação à Ethernet disponível (OTS).
Introdução
A Primeira Plataforma de Rede Ethernet do Mundo para IA
Treine e implante IA em larga escala com a plataforma de rede NVIDIA Spectrum-X™ Ethernet. Com o acoplamento forte do Switch Spectrum-X Ethernet e do Spectrum-X Ethernet SuperNIC™ da NVIDIA, a plataforma oferece o mais alto desempenho para IA, conectando malhas de computação de IA no data center, escalando em vários data centers com o Spectrum-XGS Ethernet e suportando switches ópticos co-empacotados inovadores para maior eficiência energética e resiliência de cargas de trabalho de IA.
Vantagens
Desempenho Poderoso na Cloud de IA
O Spectrum-X Ethernet é uma solução revolucionária para criar nuvens de IA de hiperescala e multilocatárias. Usando o Spectrum-X Ethernet, as organizações podem melhorar significativamente o desempenho e a eficiência energética das nuvens de IA e ganhar maior previsibilidade e consistência, resultando em tempo mais rápido de lançamento no mercado e maior vantagem competitiva.
Largura de Banda Quase Perfeita em Grande Escala
Latência extremamente baixa
Otimização do Stack de Ponta a Ponta
Extensões avançadas de RoCE para comunicações de IA escaláveis
Desempenho Determinístico e Isolamento de Desempenho
Sistema Operacional de Rede Aberto: SONiC e NVIDIA® Cumulus®
Desempenho Aprimorado de IA em Nuvem
O NVIDIA Spectrum-X Ethernet aprimora o desempenho da rede em 1,6 vezes, acelerando o processamento, a análise e a execução de cargas de trabalho de IA e, consequentemente, o desenvolvimento e a implantação de soluções de IA.
Ethernet Acelerado para Hiperescala
Com tecnologia das inovações de rede da NVIDIA, o Spectrum-X Ethernet é totalmente baseado em padrões, com suporte para stacks Ethernet abertos (SONiC) em escala de nuvem.
Otimização e Simulação de Stack Completo
O Spectrum-X Ethernet é ajustado e validado em todo o stack completo de hardware e software da NVIDIA, criando uma solução Ethernet inigualável para nuvens de IA. O NVIDIA DSX Air integra a simulação do Spectrum-X Ethernet com a fábrica de IA completa, incluindo os melhores componentes da NVIDIA e de parceiros do ecossistema. O NVIDIA Minerva™ ingere a telemetria de GPUs, switches Spectrum-X Ethernet e NVLink™, SuperNICs, DPUs, agendadores e cargas de trabalho de IA para otimizar o rendimento de fábricas de IA.
Conecte Data Centers para IA em Gigaescala
O NVIDIA Spectrum-XGS Ethernet foi criado para escalar em vários data centers diferentes, localizados em diferentes edifícios ou separados por centenas de quilômetros, permitindo que funcionem como uma superfábrica de IA unificada. O Spectrum-XGS Ethernet usa um algoritmo de controle de congestionamento consciente da topologia, gerenciamento preciso de latência e telemetria de ponta a ponta para oferecer desempenho do NCCL 1,9 vezes maior em ambientes de data centers.
Fotônica de Silício NVIDIA
O Spectrum-X Ethernet Photonics reduz o consumo de energia, aumenta a confiabilidade e aprimora a produtividade de IA, situando a óptica no mesmo pacote do switch ASIC. O Spectrum-X Ethernet Photonics permite eficiência energética da rede cinco vezes melhor, resiliência da rede maior e tempo de execução sustentado de aplicações de IA, em comparação com as redes tradicionais baseadas em transceptores plugáveis.
Spectrum-X Multiplane
O Multiplane permite que a Ethernet escale de milhares a centenas de milhares de GPUs usando uma topologia plana de duas camadas. Ao dividir o SuperNIC de cada GPU entre dois ou mais planos de rede independentes, a solução supera as limitações de um único plano e melhora o desempenho e a resiliência. Isso também permite escalar redes Ethernet Spectrum‑X para até 128 mil GPUs em dois níveis — um aumento de 64 vezes em relação às redes de plano único.
Spectrum-X Ethernet em escala de rack
O Spectrum-X Ethernet é totalmente integrado à arquitetura em escala de rack do NVIDIA MGX™ ETL, oferecendo rede Ethernet de alto desempenho para racks de computação ultradensos e expandindo as inovações MGX em resfriamento líquido e confiabilidade para uma variedade maior de opções de computação. O cartucho de cabo baseado em cobre com eficiência energética conecta as bandejas de switch Spectrum-X Ethernet com resfriamento líquido a até 256 GPUs em um único rack, enquanto a conectividade óptica do painel frontal permite a escalabilidade para domínios de GPU maiores.
Produtos
Conteúdo da Plataforma
Switches NVIDIA Spectrum-X Ethernet
Os switches NVIDIA Spectrum-X Ethernet foram criados especificamente para acelerar sistemas de IA generativa de hiperescala. Os switches Spectrum-X Ethernet oferecem largura de banda e isolamento de desempenho altamente eficaz para fábricas de IA, escalando a infraestrutura para centenas de milhares de GPUs e permitindo o treinamento e a implantação dos maiores modelos de IA do mundo.
SuperNICs NVIDIA Spectrum-X Ethernet
Os SuperNICs NVIDIA Spectrum-X Ethernet são novas classes de aceleradores de rede, criados especificamente para turbinar cargas de trabalho de IA de hiperescala. Projetados para computações altamente paralelas com uso intensivo de rede, os NVIDIA SuperNICs fornecem conectividade de rede RDMA sobre Converged Ethernet (RoCE) de alta largura de banda entre servidores de GPU, otimizando a eficiência máxima de workload de IA.
Aplicações
Como a Tecnologia Spectrum-X Ethernet é Usada
Parceiros
Com Quem Trabalhamos
-
Servidores
-
Armazenamento
-
Orquestração
Recursos
Continue Explorando o Spectrum-X Ethernet
Perguntas Frequentes da Plataforma NVIDIA Spectrum-X Ethernet
A plataforma NVIDIA Spectrum-X Ethernet é a primeira plataforma Ethernet de ponta a ponta e otimizada para IA para fábricas de IA generativa multilocatárias. Ela combina switches Ethernet e SuperNICs criados especificamente para oferecer alta largura de banda efetiva, baixa latência e forte isolamento de desempenho para infraestrutura de IA em hiperescala — tudo criado em Ethernet baseada em padrões.
O NVIDIA Spectrum-X Ethernet foi projetado para provedores de serviços de Cloud e grandes empresas que executam cargas de trabalho de IA multilocatárias em hiperescala. Ele é compatível com ambientes que vão desde grandes implantações empresariais até grandes fábricas de IA em Cloud com centenas de milhares de conexões de GPU.
O Spectrum-X Ethernet usa controle de congestionamento avançado baseado em telemetria para fornecer isolamento de ruído entre os locatários. O isolamento de desempenho integrado garante que as cargas de trabalho de IA de cada locatário sejam executadas de forma previsível e consistente, melhorando a qualidade do serviço em trabalhos de IA simultâneos.
O roteamento adaptativo é um recurso no qual o switch Spectrum-X Ethernet e o SuperNIC trabalham em estreita coordenação para rotear dinamicamente o tráfego, permitindo a maior largura de banda efetiva e a resiliência de rede para malhas de IA. Ele é voltado especificamente para redes sem perdas para evitar a degradação de desempenho em escala.
O Spectrum-X Ethernet escala para centenas de milhares de conexões de GPU em topologias eficientes de leaf/spine de duas camadas. Com as tecnologias Spectrum-X Multiplane, as redes podem escalar para até 128 mil GPUs em duas camadas — 64 vezes mais do que as redes de um único plano — dividindo o tráfego SuperNIC de cada GPU em dois ou mais planos de rede independentes.
O Spectrum-XGS Ethernet é uma extensão da plataforma Spectrum-X projetada para IA em “gigaescala”, permitindo que vários data centers distribuídos, potencialmente separados por centenas de quilômetros, funcionem como uma única superfábrica de IA. Ele apresenta um algoritmo de controle de congestionamento modificado que considera a distância entre as instalações e acelera os coletivos NCCL em vários locais em 1,9 vez em comparação com as abordagens padrão.
A geração mais recente (para fábricas de IA NVIDIA Vera Rubin) é baseada no Spectrum-6 ASIC, oferecendo 102,4 Tb/s por chip de switch com SerDes de 200 G — o dobro da largura de banda por pista em comparação com a geração anterior. O SN6600 oferece 128 portas de conectividade 800 G OSFP, enquanto o SN6800 oferece 512 portas de 800 G em um fator de forma de 5U.
Os switches Spectrum-X Ethernet Photonics usam a tecnologia de fotônica de silício (óptica co-empacotada) para oferecer tempo médio entre interrupções (MTBI) 10 vezes maior, tempo de atividade 5 vezes maior e eficiência energética 5 vezes melhor em comparação com os switches tradicionais baseados em transceptores plugáveis. Eles usam o fator de forma de fibra óptica ultradenso MMC-16 para o uso eficiente da área ocupada pelo switch.
A plataforma Spectrum-X Ethernet é compatível com três SuperNICs em gerações: o BlueField™-3 (para sistemas da era NVIDIA Hopper, otimizados para RDMA/RoCE e isolamento de vários locatários), o ConnectX™-8 (taxa de processamento total de 800 Gb/s por meio de 2×400 G, PCIe Gen6, para sistemas NVIDIA Blackwell) e o ConnectX-9 (1.600 Gb/s por GPU por meio de 4×200 G SerDes, PCIe Gen6, para sistemas NVIDIA Vera Rubin NVL72). Todos os SuperNICs descarregam as comunicações coletivas e fornecem telemetria para roteamento adaptativo.
O NVIDIA Minerva fornece observabilidade de rede de ponta a ponta, ingerindo telemetria de cargas de trabalho de infraestrutura e IA para oferecer inteligência prática que maximiza o rendimento da fábrica de IA, incluindo horas de GPU, tempo de atividade de clusters e produção de tokens. Para implantação, o NVIDIA DSX Air simula uma fábrica e um ecossistema de IA completos, permitindo que os clientes validem as ofertas de hardware e parceiros para acelerar o tempo até o primeiro token e garantir o desempenho do primeiro dia em escala.
