Piattaforma di rete NVIDIA Spectrum-X
Accelera le prestazioni della rete IA di 1,6 volte rispetto all'Ethernet tradizionale.
Introduzione
La prima piattaforma di rete Ethernet per l'IA al mondo
Addestra e distribuisci l'IA su scala massiccia con la piattaforma di rete NVIDIA Spectrum-X™ Ethernet. Basata sull'accoppiamento stretto dello switch NVIDIA Spectrum-X Ethernet e NVIDIA Spectrum-X Ethernet SuperNIC™, la piattaforma offre le più alte prestazioni per l'IA, collegando i fabric di calcolo IA all'interno del data center, scalando su più data center IA con Spectrum-XGS Ethernet e supportando l'innovativo switching ottico co-packaged per una maggiore efficienza energetica e la resilienza del carico di lavoro IA.
Vantaggi
Prestazioni potenti nel cloud IA
Utilizzando Spectrum-X, le organizzazioni possono migliorare notevolmente le prestazioni e l'efficienza energetica dei cloud IA, oltre a ottenere una maggiore prevedibilità e coerenza, accelerando il time-to-market e aumentando il vantaggio competitivo.
Larghezza di banda quasi perfetta su vasta scala
Latenza estremamente bassa
Ottimizzazione dello stack end-to-end
Estensioni RoCE avanzate per le comunicazioni IA scalabili
Prestazioni deterministiche e isolamento delle prestazioni
Sistema operativo di rete aperta: SONiC e Cumulus
Prestazioni IA cloud migliorate
NVIDIA Spectrum-X migliora le prestazioni di rete di 1,6 volte, accelerando l'elaborazione, l'analisi e l'esecuzione dei carichi di lavoro IA, e quindi anche dello sviluppo e della distribuzione di soluzioni IA.
Ethernet accelerato per l'hyperscale
Basato sulle innovazioni di rete NVIDIA, Spectrum-X è una Ethernet completamente basata su standard con supporto per stack Ethernet aperti (SONiC) a livello di cloud.
Ottimizzazione e simulazione full-stack
Spectrum-X Ethernet è ottimizzato e convalidato sullo stack completo di hardware e software NVIDIA, creando una soluzione Ethernet senza pari per i cloud IA. NVIDIA DSX Air integra la simulazione di Spectrum-X Ethernet con la fabbrica IA full-stack, inclusi i componenti all'avanguardia di NVIDIA e dei partner dell'ecosistema. NVIDIA Minerva integra la telemetria dalle GPU, dagli switch Spectrum-X Ethernet e NVLink, dai SuperNIC, dalle DPU, dagli scheduler e dai carichi di lavoro IA per ottimizzare la resa delle fabbriche IA.
Collega i data center per l'IA gigascale
NVIDIA Spectrum-XGS Ethernet è progettato per essere scalabile su più data center, sia in edifici diversi che a centinaia di chilometri di distanza, e consente loro di funzionare come una singola superfabbrica IA unificata. Spectrum-XGS Ethernet utilizza un algoritmo di controllo della congestione consapevole della topologia, una gestione precisa della latenza e una telemetria end-to-end per fornire prestazioni NCCL 1,9 volte superiori, in ambienti di data center trasversali.
Fotonica in silicio NVIDIA
La fotonica Spectrum-X Ethernet riduce il consumo energetico, aumenta l'affidabilità e migliora la produttività dell'IA situando l'ottica sullo stesso modulo dello switch ASIC. La fotonica Ethernet Spectrum-X consente un'efficienza energetica di rete 5 volte migliore, una resilienza di rete superiore e un runtime di applicazioni IA sostenuto 5 volte superiore rispetto alle tradizionali reti basate su ricetrasmettitori collegabili.
Spectrum-X Multiplane
Multiplane consente a Ethernet di scalare da migliaia a centinaia di migliaia di GPU utilizzando una topologia piatta a due livelli. Suddividendo la SuperNIC di ogni GPU su due o più piani di rete indipendenti, supera i limiti su singolo piano, migliora le prestazioni e la resilienza e scala le reti Spectrum-X Ethernet fino a 128K GPU su due livelli, 64 volte più delle reti a singolo piano.
Spectrum-X Ethernet su scala rack
Spectrum-X Ethernet è completamente integrato nell'architettura su rack NVIDIA MGX™ ETL, offrendo una rete Ethernet ad alte prestazioni per rack di calcolo ultra-densi e espandendo le innovazioni di raffreddamento a liquido e affidabilità MGX a una più ampia varietà di opzioni di calcolo. La cartuccia per cavi basata su rame a risparmio energetico collega i vassoi switch Spectrum-X Ethernet raffreddati a liquido a un massimo di 256 GPU in un singolo rack, mentre la connettività ottica sul pannello frontale consente la scalabilità su domini GPU più grandi.
Prodotti
Cosa c'è all'interno della piattaforma
Switch NVIDIA Spectrum-X Ethernet
Gli switch NVIDIA Spectrum-X Ethernet sono progettati appositamente per accelerare i fabric di IA generativa iperscalabili. Gli switch Ethernet Spectrum-X offrono un isolamento efficace di larghezza di banda e prestazioni per le fabbriche IA, scalando l'infrastruttura a centinaia di migliaia di GPU e consentendo l'addestramento e la distribuzione dei più grandi modelli IA al mondo.
SuperNIC Spectrum-X Ethernet NVIDIA
Le NVIDIA Spectrum-X Ethernet SuperNIC sono nuove classi di acceleratori di rete, progettate appositamente per potenziare i carichi di lavoro IA iperscalabili. Progettate per calcoli ad alta intensità di rete e altamente paralleli, le NVIDIA SuperNIC forniscono connettività di rete RDMA ad alta larghezza di banda su Converged Ethernet (RoCE) tra server GPU, ottimizzando il picco di efficienza del carico di lavoro IA.
Applicazioni
Come viene utilizzata la tecnologia Spectrum-X Ethernet
Partner
Con chi lavoriamo
-
Server
-
Storage
-
Orchestrazione
Risorse
Continua a scoprire Spectrum-X Ethernet
FAQ della piattaforma NVIDIA Spectrum-X Ethernet
La piattaforma NVIDIA Spectrum-X Ethernet è la prima piattaforma Ethernet end-to-end al mondo ottimizzata per l'IA per le fabbriche di IA generativa multi-tenant. Combina switch Ethernet appositamente progettati e SuperNIC per offrire un'elevata larghezza di banda efficace, una bassa latenza e un forte isolamento delle prestazioni per l'infrastruttura IA iperscalabile, il tutto basato su standard Ethernet.
NVIDIA Spectrum-X Ethernet è progettato per i fornitori di servizi cloud e le grandi aziende che eseguono carichi di lavoro IA multi-tenant su iperscala. Supporta ambienti che vanno dalle distribuzioni aziendali di grandi dimensioni alle enormi fabbriche IA nel cloud, con centinaia di migliaia di connessioni GPU.
Spectrum-X Ethernet utilizza un controllo avanzato della congestione basato sulla telemetria per fornire l'isolamento del rumore tra i tenant. L'isolamento delle prestazioni integrato garantisce l'esecuzione dei carichi di lavoro IA di ogni tenant in modo prevedibile e coerente, migliorando la qualità del servizio nei lavori IA simultanei.
Il routing adattivo è una funzionalità in cui lo switch Spectrum-X Ethernet e SuperNIC lavorano in stretto coordinamento per instradare dinamicamente il traffico, consentendo la massima larghezza di banda efficace e resilienza della rete per i fabric IA. È specificamente rivolto al networking lossless per prevenire il degrado delle prestazioni su vasta scala.
Spectrum-X Ethernet scala a centinaia di migliaia di connessioni GPU in efficienti topologie leaf/spine a due livelli. Con le tecnologie Spectrum-X Multiplane, le reti possono scalare fino a 128.000 GPU su due livelli, 64 volte di più rispetto alle reti a singolo piano, dividendo il traffico SuperNIC di ogni GPU su due o più piani di rete indipendenti.
Spectrum-XGS Ethernet è un'estensione della piattaforma Spectrum-X progettata per l'IA "gigascale", consentendo a più data center distribuiti, potenzialmente separati da centinaia di chilometri, di funzionare come una singola super-fabbrica IA. Introduce un algoritmo di controllo della congestione modificato che tiene conto della distanza tra le strutture e accelera i collettivi NCCL multi-sito di 1,9 volte rispetto agli approcci standard.
L'ultima generazione (per le fabbriche IA NVIDIA Vera Rubin) si basa sull'ASIC Spectrum-6, che offre 102,4 Tb/s per chip switch con 200 G SerDes, il doppio della larghezza di banda per lane rispetto alla generazione precedente. SN6600 offre 128 porte di connettività 800 G OSFP, mentre SN6800 include 512 porte di 800 G in un fattore di forma 5U.
Gli switch Spectrum-X Ethernet Photonics utilizzano la tecnologia della fotonica su silicio (ottica co-packaged) per offrire un tempo medio tra le interruzioni (MTBI) 10 volte superiore, un tempo di attività 5 volte superiore e un'efficienza energetica 5 volte superiore rispetto ai tradizionali switch basati su ricetrasmettitori collegabili. Utilizzano il fattore di forma della fibra ottica MMC-16 ultradenso per un utilizzo efficiente dell'ingombro degli switch.
La piattaforma Spectrum-X Ethernet supporta tre SuperNIC per diverse generazioni: BlueField™-3 (per i sistemi dell'era NVIDIA Hopper, ottimizzati per RDMA/RoCE e l'isolamento multi-tenant), ConnectX™-8 (throughput totale di 800 Gb/s tramite 2×400 G, PCIe Gen6, per i sistemi NVIDIA Blackwell) e ConnectX-9 (1.600 Gb/s per GPU tramite 4×200 G SerDes, PCIe Gen6, per i sistemi NVIDIA Vera Rubin NVL72). Tutte le SuperNIC scaricano le comunicazioni collettive e forniscono la telemetria per il routing adattivo.
NVIDIA Minerva fornisce un'osservabilità della rete end-to-end acquisendo la telemetria dall'infrastruttura e dai carichi di lavoro IA per offrire informazioni azionabili che massimizzano la resa delle fabbriche IA, tra cui le ore delle GPU, il tempo di attività dei cluster e la produzione di token. Per la distribuzione, NVIDIA DSX Air simula una fabbrica e un ecosistema IA completi, consentendo ai clienti di convalidare l'hardware e le offerte dei partner per accelerare il time-to-first token e garantire prestazioni fin dal primo giorno su vasta scala.
