Plateforme de mise en réseau NVIDIA Spectrum-X

Accélérez les performances du réseau d'IA de 1,6 fois par rapport à l'Ethernet classique.

Introduction

La première plateforme de mise en réseau Ethernet au monde pour l'IA

Entraînez et déployez l'IA à grande échelle avec la plateforme de mise en réseau Ethernet NVIDIA Spectrum-X™. La plateforme, alimentée par le couplage étroit du commutateur NVIDIA Spectrum-X Ethernet et de NVIDIA Spectrum-X Ethernet SuperNIC™, fournit les performances les plus élevées pour l'IA. Elle connecte des structures de calcul d'IA au sein du centre de données, évolue sur plusieurs centres de données d'IA avec Spectrum-XGS Ethernet et prend en charge une commutation optique co-packagée innovante pour améliorer l'efficacité énergétique et la résilience des charges de travail d'IA.

NVIDIA Vera Rubin inaugure la prochaine avancée en matière d'IA

Plateforme expansive à l'échelle NVIDIA POD avec spine basé sur Spectrum-X Ethernet pour les racks de CPU Vera et de stockage BlueField-4 STX.

Les solutions de mise en réseau Ethernet de NVIDIA accélèrent le plus grand supercalculateur d'IA au monde construit par xAI

NVIDIA Spectrum-X Ethernet rend possible l'immense système NVIDIA Hopper™ de 100 000 GPU.

Avantages

Performances puissantes dans le Cloud d'IA

Grâce Spectrum-X les organisations peuvent améliorer considérablement les performances et l'efficacité énergétique des Clouds d'IA, et gagner en prévisibilité et en cohérence, ce qui permet de réduire les délais de mise sur le marché et d'obtenir un avantage concurrentiel plus important.

Bande passante presque parfaite à grande échelle

Latence extrêmement faible

Optimisation de la pile de bout en bout

Extensions RoCE avancées pour les communications évolutives de l'IA

Performances déterministes et isolation des performances

Système d'exploitation de réseau ouvert : SONiC et Cumulus


Performances du Cloud d'IA améliorées

NVIDIA Spectrum-X améliore les performances du réseau de 1,6 fois, accélérant le traitement, l'analyse et l'exécution des charges de travail d'IA et, ce faisant, le développement et le déploiement de solutions d'IA.

Ethernet accéléré pour l'Hyperscale

Alimenté par les innovations de mise en réseau NVIDIA, Spectrum-X est un Ethernet entièrement basé sur les normes avec une prise en charge des piles Ethernet ouvertes (SONiC) à l'échelle du Cloud.

Optimisation et simulation sur l'ensemble de la pile

Spectrum-X Ethernet est optimisé et validé sur l'ensemble de la pile de matériel et de logiciels NVIDIA, créant ainsi une solution Ethernet inégalée pour les Clouds d'IA.  NVIDIA DSX Air intègre la simulation de Spectrum-X Ethernet à l'usine d'IA complète, notamment les meilleurs composants de NVIDIA et de partenaires de l'écosystème.

Connectez des centres de données pour l'IA gigascale.

NVIDIA Spectrum-XGS Ethernet est conçu pour s'adapter à plusieurs centres de données disparates, situés dans différents bâtiments ou séparés par des centaines de kilomètres, ce qui leur permet de fonctionner comme une seule super-usine d'IA unifiée. ​​ Spectrum-XGS Ethernet utilise un algorithme de contrôle de la congestion sensible à la topologie, une gestion précise de la latence et une télémétrie de bout en bout pour fournir des performances NCCL 1,9 fois plus élevées dans des environnements de centres de données multiples.

Photonique de silicium NVIDIA

Spectrum-X Ethernet Photonics réduit la consommation d'énergie, augmente la fiabilité et améliore la productivité de l'IA en plaçant l'optique sur le même boîtier que le commutateur ASIC. Spectrum-X Ethernet Photonics permet une efficacité énergétique réseau 5 fois supérieure, une résilience réseau 10 fois supérieure et une exécution soutenue d'applications d'IA 5 fois plus longue par rapport aux réseaux traditionnels basés sur des émetteurs-récepteurs branchables.

Spectrum-X Multiplane

Multiplane permet à l'Ethernet de passer de milliers à des centaines de milliers de GPU à l'aide d'une topologie plate à deux niveaux. En divisant le SuperNIC de chaque GPU en deux ou plusieurs plans réseau indépendant, il surmonte les limites de plan unique, améliore les performances et la résilience, et fait évoluer les réseaux Spectrum-X Ethernet jusqu'à 128 000 GPU en deux niveaux, soit 64 fois plus que les réseaux à plan unique.

Spectrum-X Ethernet à l'échelle du rack

Spectrum-X Ethernet est entièrement intégré à l'architecture rack NVIDIA MGX™ ETL, offrant une mise en réseau Ethernet hautes performances pour les racks de calcul ultra-denses et étendant les innovations MGX en matière de refroidissement liquide et de fiabilité à une plus grande variété d'options informatiques. Cette cartouche de câbles à base de cuivre écoénergétique connecte les plateaux de commutation Spectrum-X Ethernet à refroidissement liquide à jusqu'à 256 GPU dans un seul rack, tandis que la connectivité optique à panneau avant permet une mise à l'échelle vers des domaines GPU plus importants.

Produits

Contenu de la plateforme

Commutateurs Ethernet NVIDIA Spectrum-X

Les commutateurs Ethernet NVIDIA Spectrum-X sont spécialement conçus pour accélérer les tissus d'IA générative hyperéchelle. Les commutateurs Ethernet Spectrum-X fournissent une bande passante et une isolation des performances élevées pour les usines d'IA, faisant évoluer leur infrastructure pour des centaines de milliers de GPU et permettant d'entraîner et de déployer les plus grands modèles d'IA au monde.

SuperNIC NVIDIA Spectrum-X Ethernet

Les SuperNIC NVIDIA Spectrum-X Ethernet sont de nouvelles classes d'accélérateurs réseau, spécialement conçus pour booster des charges de travail d'IA hyperscale. Conçus pour les calculs massivement parallèles à forte intensité réseau, les NVIDIA SuperNIC fournissent une connectivité réseau RDMA à haute bande passante sur Converged Ethernet (RoCE) entre des serveurs GPU, optimisant ainsi l'efficacité maximale des charges de travail d'IA.

Applications

Comment la technologie Spectrum-X Ethernet est utilisée

Fabrics de calcul d'IA

Spectrum-X est idéal pour la communication de GPU à GPU, car il fournit la bande passante et l'isolation des performances élevées et efficaces nécessaires à l'entraînement de l'IA et à l'inférence distribuée.

Stockage de l'IA

NVIDIA et l'écosystème de stockage étendent les innovations Spectrum-X à la structure de stockage de données, ce qui permet d'accélérer les délais d'IA et de maximiser le retour sur investissement.

Partenaires

Nos partenaires

Ressources

Continuez à découvrir Spectrum-X Ethernet

Fiche technique de Spectrum-X Ethernet

Livre blanc technique de Spectrum-X Ethernet

Livre blanc de Spectrum-X Ethernet pour le stockage

Blog de Spectrum-X Ethernet pour le stockage

Offre de solutions Spectrum-X Ethernet

Livre blanc technique de mise en réseau pour l'IA

Blog technique Spectrum-XGS Ethernet

Livre blanc technique de SuperNIC

Essayez gratuitement le logiciel de mise en réseau NVIDIA

Simulez une topologie de réseau entièrement automatisée à l'aide de NVIDIA DSX Air.

Découvrez la mise en réseau à l'ère de l'IA

Le réseau est responsable en dernier ressort des performances de l'IA et agit comme l'épine dorsale du centre de données pour exploiter la puissance de l'IA générative. ​​

En savoir plus sur la plateforme Spectrum-X Ethernet

La plateforme Spectrum-X Ethernet est spécifiquement conçue pour améliorer les performances et l'efficacité de l'infrastructure d'IA basée sur Ethernet.

Augtera fait désormais partie de NVIDIA

Augtera a été acquis par NVIDIA Corporation de Santa Clara, en Californie, en décembre 2024. Il deviendra une partie du portefeuille de produits NVIDIA Spectrum-X.