La rete definisce il data center IA

Il networking NVIDIA è un fabric full-stack e ottimizzato per gli acceleratori e progettato appositamente per le fabbriche IA, che combina la scalabilità verticale di NVLink, la scalabilità orizzontale di Spectrum-X Ethernet e Quantum InfiniBand, la scalabilità trasversale di Spectrum-XGS, le DPU BlueField per i servizi di infrastruttura (compreso l’accesso sicuro con scalabilità verticale e la scalabilità contestuale per la cache KV) e le piattaforme di fotonica su silicio. Insieme, queste tecnologie offrono le funzionalità innovative e le prestazioni che i carichi di lavoro IA richiedono nelle distribuzioni che coprono da decine di migliaia a milioni di GPU.

Le fabbriche IA ora coprono decine di migliaia di GPU che operano come un singolo motore di calcolo distribuito, rendendo la rete il punto critico di ogni carico di lavoro IA. Il networking NVIDIA offre latenza deterministica, throughput senza perdita di dati e tempi di iterazione stabili che consentono l'utilizzo completo delle GPU nei carichi di lavoro di addestramento, inferenza e RAG, a qualsiasi scala.

NVIDIA offre quattro piattaforme principali per le fabbriche IA: Spectrum-X Ethernet per la rete cloud IA iperscalabile, che offre prestazioni 1,6 volte superiori rispetto a Ethernet standard, Quantum-X800 InfiniBand per l'addestramento IA a bassa latenza e l'HPC con il calcolo in rete, DPU BlueField per i servizi di infrastruttura, la sicurezza e l'offload dello storage, e un'ottica co-packaged con fotonica del silicio per uno switching ad alta efficienza energetica su scala di milioni di GPU. La tecnologia Spectrum-XGS Ethernet estende tutto ciò su più siti in una super-fabbrica IA unificata.

NVIDIA Spectrum-X Ethernet è una piattaforma di rete progettata appositamente per l'IA, che offre prestazioni di rete 1,6 volte superiori rispetto all'Ethernet standard. Fornisce prestazioni RoCE accelerate, latenza deterministica e isolamento delle prestazioni per i carichi di lavoro IA multi-tenant e si estende a più data center attraverso la tecnologia scale-across Spectrum-XGS, unificando le strutture distribuite in un singolo fabric IA ad alte prestazioni.

NVIDIA Quantum InfiniBand è una piattaforma di rete ad alte prestazioni che offre latenza ultra-bassa, calcolo in rete e sistemi ottici co-packaged di fotonica su silicio di nuova generazione per carichi di lavoro IA e HPC. Grazie alla tecnologia di elaborazione in rete SHARP, che accelera le operazioni collettive, e alle strutture di autoriparazione che consentono di ripristinare i collegamenti interrotti 1.000 volte più velocemente rispetto alle reti tradizionali, Quantum InfiniBand fornisce la rete più veloce e scalabile del settore per i cluster di addestramento IA e i supercomputer scientifici.

La piattaforma NVIDIA BlueField offre prestazioni, efficienza e innovazione senza precedenti per alimentare le fabbriche IA, la nuova classe di data center appositamente progettati per l'IA. Con la sua solida potenza di calcolo e gli acceleratori hardware definiti da software integrati per rete, storage e sicurezza, BlueField crea un'infrastruttura sicura e accelerata per qualsiasi carico di lavoro in qualsiasi ambiente, inaugurando una nuova era di IA agentica, con agenti autonomi in grado di ragionare, collaborare e agire su vasta scala.

NVIDIA Spectrum-XGS Ethernet è una tecnologia di rete su scala che collega i data center distribuiti in una singola super-fabbrica IA unificata. Offre prestazioni NCCL 1,9 volte superiori per le distribuzioni IA multi-sito rispetto all'Ethernet inter-site standard, consentendo alle fabbriche IA di scalare oltre i limiti di potenza e capacità fisica di qualsiasi singolo edificio, mantenendo le stesse caratteristiche del fabric ad alte prestazioni delle distribuzioni Spectrum-X all'interno della struttura.

Il networking per la fotonica su silicio NVIDIA integra i componenti ottici direttamente con l'ASIC dello switch, eliminando i ricetrasmettitori pluggable per offrire un'efficienza energetica e un tempo di attività 5 volte migliori rispetto ai design pluggable tradizionali. La fotonica in silicio co-packaged è la tecnologia di livello fisico che consente il networking su scala di milioni di GPU e fabbriche IA multi-sito, riducendo le perdite di inserimento per un'integrità e un'affidabilità del segnale significativamente migliori.

NVIDIA DOCA è la piattaforma software unificata che sblocca il pieno potenziale di NVIDIA BlueField per l'IA agentica. Fornisce SDK, librerie, microservizi pronti per l'azienda e framework di orchestrazione—che coprono la rete, lo storage nativo IA, la sicurezza del runtime, la telemetria e la gestione del ciclo di vita—per accelerare, proteggere e scalare i carichi di lavoro IA per la produzione. DOCA è la base software per la creazione e la gestione di infrastrutture di fabbriche IA intelligenti e ad alte prestazioni.