NVIDIA Spectrum-X Netzwerkplattform
Beschleunigen Sie die KI-Netzwerkleistung um das 1,6-fache gegenüber herkömmlichem Ethernet.
Einführung
Die weltweit erste Ethernet-Netzwerkplattform für KI
Trainieren Sie KI und stellen Sie diese in großem Maßstab bereit – mit der NVIDIA Spectrum-X™ Ethernet-Netzwerkplattform. Dank der engen Kopplung des NVIDIA Spectrum-X Ethernet-Switches und des NVIDIA Spectrum-X Ethernet SuperNIC™ erzielt die Plattform höchste Leistung für KI, indem sie KI-Compute-Fabrics im Rechenzentrum verbindet, mit Spectrum-XGS Ethernet über mehrere KI-Rechenzentren hinweg skaliert und innovatives Co-Packaged Optical Switching für höhere Energieeffizienz und Ausfallsicherheit von KI-Workload unterstützt.
Vorteile
Hervorragende Performance in der KI-Cloud
Spectrum-X ist eine revolutionäre Lösung für den Aufbau von mandantenfähigen Hyperscale-KI-Clouds mit Ethernet. Mit Spectrum-X können Unternehmen die Leistung und Energieeffizienz von KI-Clouds erheblich verbessern und eine höhere Vorhersehbarkeit und Konsistenz erzielen, was zu einer kürzeren Markteinführungszeit und einem größeren Wettbewerbsvorteil führt.
Nahezu perfekte Bandbreite in großem Umfang
Extrem geringe Latenz
End-to-End-Stack-Optimierung
Erweiterte RoCE-Erweiterungen für skalierbare KI-Kommunikation
Deterministische Leistung und Leistungsisolierung
Offenes Netzwerkbetriebssystem: SONiC und Cumulus
Verbesserte KI-Cloud-Leistung
NVIDIA Spectrum-X steigert die Netzwerkleistung um das 1,6-fache und beschleunigt die Verarbeitung, Analyse und Ausführung von KI-Workloads und damit die Entwicklung und Bereitstellung von KI-Lösungen.
Beschleunigtes Ethernet für Hyperscale
Spectrum-X basiert auf den Netzwerkinnovationen von NVIDIA und ist ein vollständig standardbasiertes Ethernet mit Unterstützung für offene Ethernet-Stacks (SONiC) im Cloud-Maßstab.
Full-Stack-Optimierung und Simulation
Spectrum-X Ethernet wurde für den gesamten NVIDIA-Hard- und -Software-Stack optimiert und validiert und bietet eine unübertroffene Ethernet-Lösung für KI-Clouds. NVIDIA DSX Air integriert die Simulation von Spectrum-X Ethernet in die Full-Stack-KI-Fabrik, einschließlich der besten Komponenten von NVIDIA und Ökosystempartnern. NVIDIA Minerva nutzt Telemetrie von GPUs, Spectrum-X Ethernet- und NVLink-Switches, SuperNICs, DPUs, Schedulern und KI-Workloads, um den Ertrag von KI-Fabriken zu optimieren.
Verbinden Sie Rechenzentren für Gigascale-KI
NVIDIA Spectrum-XGS Ethernet ist für die Skalierung über mehrere, räumlich verteilte Rechenzentren konzipiert – ob in unterschiedlichen Gebäuden oder durch Hunderte von Kilometern getrennt – und ermöglicht es diesen, als einheitliche KI-Superfabrik zu fungieren. Spectrum-XGS Ethernet nutzt einen topologiebewussten Überlastungssteuerungsalgorithmus, präzises Latenzmanagement sowie End-to-End-Telemetrie, um in rechenzentrumsübergreifenden Umgebungen eine 1,9-mal höhere NCCL-Leistung zu ermöglichen.
NVIDIA Silizium-Photonik
Spectrum-X Ethernet Photonics reduziert den Energieverbrauch, erhöht die Zuverlässigkeit und steigert die KI-Produktivität, indem die Optik im selben Gehäuse wie der Switch-ASIC platziert wird. Spectrum-X Ethernet Photonics ermöglicht eine 5-mal höhere Netzwerkenergieeffizienz, eine höhere Netzwerkresilienz und eine 5-mal längere Laufzeit für KI-Anwendungen im Vergleich zu herkömmlichen Netzwerken auf Basis von steckbaren Transceivern.
Spectrum-X Multiplane
Multiplane ermöglicht die Skalierung von Ethernet von Tausenden auf Hunderttausende von GPUs mithilfe einer flachen, zweistufigen Topologie. Durch die Aufteilung der SuperNIC jeder GPU auf zwei oder mehr unabhängige Netzwerkebenen werden die Grenzen einer einzelnen Ebene überwunden, die Leistung und Ausfallsicherheit verbessert und Spectrum-X Ethernet-Netzwerke auf bis zu 128.000 GPUs in zwei Ebenen skaliert – 64-mal mehr als bei Netzwerken mit einer einzigen Ebene.
Rack-Scale Spectrum-X Ethernet
Spectrum-X Ethernet ist vollständig in die NVIDIA MGX™ ETL-Rack-Scale-Architektur integriert und bietet leistungsstarke Ethernet-Netzwerke für extrem dichte Rechen-Racks. Darüber hinaus erweitert es die Innovationen von MGX in den Bereichen Flüssigkeitskühlung und Zuverlässigkeit auf eine breitere Palette von Rechenoptionen. Die energieeffiziente, auf Kupfer basierende Kabelkassette verbindet flüssigkeitsgekühlte Spectrum-X Ethernet-Switch-Trays mit bis zu 256 GPUs in einem einzigen Rack, während die optische Konnektivität an der Vorderseite eine Skalierung auf größere GPU-Domänen ermöglicht.
Produkte
Was ist in der Plattform enthalten?
NVIDIA Spectrum-X Ethernet-Switches
Die NVIDIA Spectrum-X Ethernet-Switches wurden speziell entwickelt, um hyperscale-generative KI-Fabriken zu beschleunigen. Spectrum-X Ethernet-Switches liefern eine hohe effektive Bandbreite und Leistungsisolierung für KI-Fabriken, skalieren die Infrastruktur auf Hunderttausende von GPUs und ermöglichen das Training und die Bereitstellung der weltweit größten KI-Modelle.
NVIDIA Spectrum-X Ethernet SuperNICs
Die NVIDIA Spectrum-X Ethernet SuperNICs sind neuartige Klassen von Netzwerkbeschleunigern, die speziell für die Beschleunigung von Hyperscale-KI-Workloads entwickelt wurden. NVIDIA SuperNICs wurden für netzwerkintensive, massiv parallele Berechnungen entwickelt und bieten RDMA mit hoher Bandbreite über RoCE (Converged Ethernet) zwischen GPU-Servern und optimieren die Effizienz von KI-Workloads.
Anwendungen
Wie die Spectrum-X Ethernet-Technologie verwendet wird
Partner
Mit wem wir zusammenarbeiten
-
Server
-
Datenspeicher
-
ORCHESTRIERUNG
Ressourcen
Spectrum-X Ethernet weiter erkunden
NVIDIA Spectrum-X Ethernet-Plattform FAQs
Die NVIDIA Spectrum-X Ethernet-Plattform ist die weltweit erste End-to-End-KI-optimierte Ethernet-Plattform für mehrinstanzenfähige generative KI-Fabriken. Es kombiniert speziell entwickelte Ethernet-Switches und SuperNICs, um eine hohe effektive Bandbreite, geringe Latenz und starke Leistungsisolierung für Hyperscale-KI-Infrastruktur zu bieten – alles basierend auf standardbasiertem Ethernet.
NVIDIA Spectrum-X Ethernet ist für Cloud-Service-Anbieter und große Unternehmen konzipiert, die mehrinstanzenfähige KI-Workloads in Hyperscale ausführen. Es unterstützt Umgebungen, die von großen Unternehmensbereitstellungen bis hin zu massiven Cloud-KI-Fabriken mit Hunderttausenden von GPU-Verbindungen reichen.
Spectrum-X Ethernet nutzt fortschrittliche telemetriebasierte Überlastungssteuerung, um die Isolation von Störeinflüssen zwischen Mandanten zu gewährleisten. Die integrierte Leistungsisolation stellt sicher, dass die KI-Workloads jedes Mandanten vorhersehbar und konsistent ausgeführt werden, wodurch die Servicequalität über gleichzeitige KI-Jobs hinweg verbessert wird.
Adaptives Routing ist eine Funktion, bei der der Spectrum-X Ethernet-Switch und SuperNIC eng koordiniert arbeiten, um den Datenverkehr dynamisch weiterzuleiten, was die höchste effektive Bandbreite und Netzwerkausfallsicherheit für KI-Fabriken ermöglicht. Es zielt speziell auf verlustfreie Netzwerke ab, um Leistungsabfälle in großem Maßstab zu verhindern.
Spectrum-X Ethernet skaliert auf Hunderttausende von GPU-Verbindungen in effizienten zweistufigen Leaf/Spine-Topologien. Mit Spectrum-X Multiplane-Technologien können Netzwerke auf bis zu 128.000 GPUs in zwei Ebenen skaliert werden – 64-mal mehr als Single-Plane-Netzwerke –, indem der SuperNIC-Verkehr jeder GPU auf zwei oder mehr unabhängige Netzwerkebenen aufgeteilt wird.
Spectrum-XGS Ethernet ist eine Erweiterung der Spectrum-X-Plattform, die für „Gigascale“-KI entwickelt wurde und es mehreren verteilten Rechenzentren, die möglicherweise durch Hunderte von Kilometern voneinander getrennt sind, ermöglicht, als eine einzige KI-Superfabrik zu fungieren. Es führt einen modifizierten Algorithmus zur Überlastungssteuerung ein, der die Entfernung zwischen Einrichtungen berücksichtigt, und beschleunigt NCCL-Kollektive mit mehreren Standorten im Vergleich zu Standardansätzen um das 1,9-fache.
Die neueste Generation (für NVIDIA Vera Rubin-KI-Fabriken) basiert auf dem Spectrum-6 ASIC und bietet 102,4 Tb/s pro Switch-Chip mit 200 G SerDes – die doppelte Bandbreite pro Lane im Vergleich zur vorherigen Generation. Der SN6600 bietet 128 Ports mit 800 G OSFP-Konnektivität, während der SN6800 512 Ports mit 800 G in einem 5U-Formfaktor bietet.
Die Spectrum-X Ethernet Photonics-Switches nutzen Silizium-Photonik-Technologie (Co-Packaged Optics), um eine 10-mal höhere Mean-Time-Between-Interruptions (MTBI), eine 5-mal längere Betriebszeit und eine 5-mal bessere Energieeffizienz im Vergleich zu herkömmlichen steckbaren Transceiver-basierten Switches zu bieten. Sie nutzen den ultra-dichten MMC-16-Glasfaser-Formfaktor für eine effiziente Nutzung des Switch-Platzbedarfs.
Die Spectrum-X Ethernet-Plattform unterstützt drei SuperNICs über Generationen hinweg: den BlueField™-3 (für Systeme der NVIDIA Hopper-Ära, optimiert für RDMA/RoCE und Multi-Tenant-Isolation), den ConnectX™-8 (800 Gbit/s Gesamtdurchsatz über 2×400 G, PCIe Gen6, für NVIDIA Blackwell-Systeme) und den ConnectX-9 (1.600 Gbit/s pro GPU über 4×200 G SerDes, PCIe Gen6 für NVIDIA Vera Rubin NVL72-Systeme). Alle SuperNICs entlasten die kollektive Kommunikation und bieten Telemetrie für adaptives Routing.
NVIDIA Minerva bietet End-to-End-Netzwerkbeobachtbarkeit, indem es Telemetrie aus Infrastruktur und KI-Workloads nutzt, um umsetzbare Intelligenz bereitzustellen, die die Ausbeute von KI-Fabriken maximiert, einschließlich GPU-Stunden, Cluster-Verfügbarkeit und Token-Produktion. Für die Bereitstellung simuliert NVIDIA DSX Air eine vollständige KI-Fabrik und ein Ökosystem, sodass Kunden Hardware- und Partnerangebote validieren können, um die Zeit bis zur ersten Token-Bereitstellung zu beschleunigen und die Leistung vom ersten Tag in großem Maßstab zu gewährleisten.
