NVIDIA Spectrum-X Networking-Plattform

Beschleunigen Sie die KI-Netzwerkleistung um das 1,6-Fache gegenüber herkömmlichem Ethernet.

Einführung

Die weltweit erste Ethernet-Netzwerkplattform für KI

Trainieren Sie KI und stellen Sie diese in großem Maßstab bereit – mit der NVIDIA Spectrum-X™ Ethernet-Netzwerkplattform. Dank der engen Kopplung des NVIDIA Spectrum-X Ethernet-Switches und des NVIDIA Spectrum-X Ethernet SuperNIC™ erzielt die Plattform höchste Leistung für KI, indem sie KI-Compute-Fabrics im Rechenzentrum verbindet, mit Spectrum-XGS Ethernet über mehrere KI-Rechenzentren hinweg skaliert und innovatives Co-Packaged Optical Switching für eine höhere Energieeffizienz und Ausfallsicherheit von KI-Workload unterstützt.

NVIDIA Vera Rubin eröffnet neue Dimensionen der KI

Umfangreiche NVIDIA-Plattform im POD-Maßstab mit Spectrum-X Ethernet-basiertem Spine für Vera-CPU- und BlueField-4-STX-Datenspeicherracks.

NVIDIA Ethernet Networking beschleunigt den weltweit größten KI-Supercomputer, der von xAI entwickelt wurde

NVIDIA Spectrum-X Ethernet ermöglicht das kolossale NVIDIA Hopper™-System mit 100.000 GPUs.

Vorteile

Leistungsstarke Performance in der KI-Cloud

Spectrum-X ist eine revolutionäre Lösung für den Aufbau von mandantenfähigen Hyperscale-KI-Clouds mit Ethernet. Mit Spectrum-X können Unternehmen die Leistung und Energieeffizienz von KI-Clouds erheblich verbessern und eine höhere Vorhersehbarkeit und Konsistenz erzielen, was zu einer kürzeren Markteinführungszeit und einem größeren Wettbewerbsvorteil führt.

Nahezu perfekte Bandbreite in großem Umfang

Extrem geringe Latenz

End-to-End-Stack-Optimierung

Erweiterte RoCE-Erweiterungen für skalierbare KI-Kommunikation

Deterministische Leistung und Leistungsisolierung

Offenes Netzwerkbetriebssystem: SONiC und Cumulus


Verbesserte KI-Cloud-Leistung

NVIDIA Spectrum-X steigert die Netzwerkleistung um das 1,6-Fache und beschleunigt die Verarbeitung, Analyse und Ausführung von KI-Workloads und damit die Entwicklung und Bereitstellung von KI-Lösungen.

Beschleunigtes Ethernet für Hyperscale

Spectrum-X basiert auf NVIDIAs Netzwerkinnovationen und ist ein vollständig standardbasiertes Ethernet mit Unterstützung für offene Ethernet-Stacks (SONiC) im Cloud-Maßstab.

Full-Stack-Optimierung und Simulation

Spectrum-X Ethernet wurde für den gesamten NVIDIA-Hard- und -Software-Stack optimiert und validiert und bietet eine unübertroffene Ethernet-Lösung für KI-Clouds.  NVIDIA DSX Air integriert die Simulation von Spectrum-X Ethernet in die Full-Stack-KI-Fabrik, einschließlich der besten Komponenten von NVIDIA und Ökosystempartnern.

Verbinden Sie Rechenzentren für Gigascale-KI

NVIDIA Spectrum-XGS Ethernet ist für die Skalierung über mehrere, räumlich verteilte Rechenzentren konzipiert – ob in unterschiedlichen Gebäuden oder durch Hunderte von Kilometern getrennt – und ermöglicht es diesen, als eine einheitliche KI-Superfabrik zu fungieren. Spectrum-XGS Ethernet verwendet einen topologiebewussten Überlastungssteuerungsalgorithmus, präzises Latenzmanagement sowie End-to-End-Telemetrie, um in rechenzentrumsübergreifenden Umgebungen eine 1,9-fach höhere NCCL-Performance zu ermöglichen.

NVIDIA Silizium-Photonik

Spectrum-X Ethernet Photonics reduziert den Energieverbrauch, erhöht die Zuverlässigkeit und steigert die KI-Produktivität, indem die Optik im selben Gehäuse wie der Switch-ASIC platziert wird. Spectrum-X Ethernet Photonics ermöglicht eine 5-mal höhere Netzwerkenergieeffizienz, eine 10-mal höhere Netzwerkresilienz und eine 5-mal längere Laufzeit für KI-Anwendungen im Vergleich zu herkömmlichen Netzwerken auf Basis von steckbaren Transceivern.

Spectrum-X Multiplane

Multiplane ermöglicht die Skalierung von Ethernet von Tausenden auf Hunderttausende von GPUs mithilfe einer flachen, zweistufigen Topologie. Durch die Aufteilung der SuperNIC jeder GPU auf zwei oder mehr unabhängige Netzwerkebenen werden die Grenzen einer einzelnen Ebene überwunden, die Leistung und Ausfallsicherheit verbessert und Spectrum-X Ethernet-Netzwerke auf bis zu 128.000 GPUs in zwei Ebenen skaliert – 64-mal mehr als bei Netzwerken mit einer einzigen Ebene.

Rack-Scale Spectrum-X Ethernet

Spectrum-X Ethernet ist vollständig in die NVIDIA MGX™ ETL-Rack-Scale-Architektur integriert und bietet leistungsstarke Ethernet-Netzwerke für extrem dichte Rechen-Racks. Zudem erweitert es die Innovationen von MGX in den Bereichen Flüssigkeitskühlung und Zuverlässigkeit auf eine breitere Palette von Rechenoptionen. Die energieeffiziente, auf Kupfer basierende Kabelkassette verbindet flüssigkeitsgekühlte Spectrum-X Ethernet-Switch-Trays mit bis zu 256 GPUs in einem einzigen Rack, während die optische Konnektivität an der Vorderseite eine Skalierung auf größere GPU-Domänen ermöglicht.

Produkte

Was ist in der Plattform enthalten?

NVIDIA Spectrum-X Ethernet-Switches

Die NVIDIA Spectrum-X Ethernet-Switches wurden speziell entwickelt, um hyperscale-generative KI-Fabrics zu beschleunigen. Spectrum-X Ethernet-Switches liefern eine hohe effektive Bandbreite und Leistungsisolierung für KI-Fabriken, skalieren die Infrastruktur auf Hunderttausende von GPUs und ermöglichen das Training und die Bereitstellung der weltweit größten KI-Modelle.

NVIDIA Spectrum-X Ethernet SuperNICs

Die NVIDIA Spectrum-X Ethernet SuperNICs sind neuartige Klassen von Netzwerkbeschleunigern, die speziell für die Beschleunigung von Hyperscale-KI-Workloads entwickelt wurden. NVIDIA SuperNICs wurden für netzwerkintensive, massiv parallele Berechnungen entwickelt und bieten RDMA mit hoher Bandbreite über RoCE (Converged Ethernet) zwischen GPU-Servern und optimieren die Effizienz von KI-Workload.

Anwendungen

Wie die Spectrum-X Ethernet-Technologie verwendet wird

KI-Compute-Fabrics

Spectrum-X ist ideal für die GPU-zu-GPU-Kommunikation und bietet die hohe, effektive Bandbreite- und Leistungsisolierung, die für KI-Training und verteilte Inferenz erforderlich sind.

KI-Speicher

NVIDIA und das Storage-Ökosystem erweitern die Spectrum-X-Innovationen auf die Datenspeicherstruktur, was zu einer schnelleren Umsetzung von KI und einer Maximierung der Kapitalrendite führt.

Partners

Mit wem wir zusammenarbeiten

Ressourcen

Spectrum-X Ethernet weiter erkunden

Spectrum-X Ethernet-Datenblatt

Technisches Whitepaper für Spectrum-X Ethernet

Spectrum-X Ethernet für Datenspeicher

Spectrum-X Ethernet-Datenspeicher-Blog

Spectrum-X Ethernet-Lösungs-Bundle

Networking für KI – Technisches Whitepaper

Spectrum-XGS Ethernet Technischer Blog

SuperNIC – Technisches Whitepaper

Probieren Sie die NVIDIA Netzwerksoftware kostenlos aus

Simulieren Sie eine vollautomatisierte Netzwerktopologie mit NVIDIA DSX Air.

Entdecken Sie Networking im Zeitalter der KI

Das Netzwerk ist letztlich für die KI-Leistung verantwortlich und dient als Rückgrat des Rechenzentrums, um die Leistungsfähigkeit generativer KI zu nutzen.

Erfahren Sie mehr über die Spectrum-X Ethernet-Plattform

Die Spectrum-X Ethernet-Plattform wurde speziell entwickelt, um die Leistung und Effizienz von Ethernet-basierter KI-Infrastruktur zu verbessern.

Augtera ist jetzt Teil von NVIDIA

Augtera wurde im Dezember 2024 von der NVIDIA Corporation in Santa Clara, Kalifornien, übernommen. Das Unternehmen wird Teil des NVIDIA Spectrum-X-Produktportfolios werden.