Das Netzwerk definiert das KI-Rechenzentrum
Netzwerktechnik der nächsten Generation für hochleistungsfähige, skalierbare und sichere Gigaskalieren-KI-Fabriken.
Einführung
Netzwerktechnik, die speziell für das Zeitalter der KI-Fabriken entwickelt wurde.
KI-Fabriken erstrecken sich jetzt über Zehntausende von GPUs – und bald Millionen –, die als eine einzige verteilte Computing-Engine arbeiten. Um die Beschleuniger vollständig auszulasten, erfordern KI-Workloads deterministische Latenz, verlustfreien Durchsatz, stabile Iterationszeiten und die Möglichkeit zur Skalierung nicht nur innerhalb eines Rechenzentrums, sondern über mehrere Standorte hinweg.
NVIDIA-Netzwerke bieten die Full-Stack-Fabric, die dies möglich macht, und kombinieren NVIDIA NVLink™ Scale-up, NVIDIA Quantum InfiniBand und Spectrum-X™ Ethernet Scale-out, Spectrum-XGS in Multi-Rechenzentren Scale-across, NVIDIA BlueField™ DPU und DOCA™ für Infrastrukturdienste sowie Silizium-Photonik-Plattformen der nächsten Generation, um die weltweit fortschrittlichsten KI-Fabriken zu betreiben.
Eine vertrauenswürdige Grundlage für KI-Agenten
NVIDIA Sentry und BlueField™ bieten In-Silicon- und Out-of-Band-Agentensicherheit, die auf der NVIDIA OpenShell-Referenzarchitektur ausgeführt wird.
Technologie
Die Innovationen, die NVIDIA KI-Netzwerke definieren
NVIDIA entwickelt Networking als integralen Bestandteil einer integrierten KI-Plattform und kombiniert GPUs, SuperNICs, DPUs, Switches, optische Komponenten und Software in einer speziell abgestimmten Architektur, die eine kompromisslose und vorhersehbare Leistung in großem Umfang liefert
Vorteile
Beschleunigte Netzwerktechnik für KI-Fabriken
Aktuelles
Bleiben Sie über das Neueste im Bereich Networking auf dem Laufenden
NVIDIA Netzwerk-FAQs
NVIDIA Networking ist eine Full-Stack- und beschleunigungsoptimierte Fabric, die speziell für KI-Fabriken entwickelt wurde – sie kombiniert NVLink Scale-up, Spectrum-X Ethernet und Quantum InfiniBand Scale-out, Spectrum-XGS Scale-across, BlueField DPUs für Infrastrukturdienste (einschließlich sicherem Scale-in-Zugriff und Kontextskalierung für KV-Cache) sowie Silizium-Photonik-Plattformen. Gemeinsam bieten diese Technologien die innovativen Funktionen und Leistungsmerkmale, die KI-Workloads in Bereitstellungen erfordern, die Zehntausende bis Millionen von GPUs umfassen.
KI-Fabriken erstrecken sich jetzt über Zehntausende von GPUs, die als eine einzige verteilte Computing-Engine arbeiten, was das Netzwerk zum kritischen Weg für jeden KI-Workload macht. NVIDIA-Netzwerke bieten deterministische Latenz, verlustfreien Durchsatz und stabile Iterationszeiten, die GPUs für Trainings-, Inferenz- und RAG-Workloads in jeder Größenordnung vollständig ausgelastet halten.
NVIDIA bietet vier primäre Netzwerkplattformen für KI-Fabriken: Spectrum-X Ethernet für Hyperscale-KI-Cloud-Netzwerke, das eine 1,6-mal höhere Leistung als handelsübliches Ethernet bietet; Quantum-X800 InfiniBand für KI-Training mit geringer Latenz und HPC mit Netzwerk-Computing; BlueField DPU für Infrastrukturdienste, Sicherheit und Datenspeicher-Offload; und Silizium-Photonik Co-Packaged Optics für energieeffizientes Switching im Millionen-GPU-Maßstab. Spectrum-XGS Ethernet erweitert all das über mehrere Standorte zu einer einheitlichen KI-Super-Fabrik.
NVIDIA Spectrum-X Ethernet ist eine Netzwerkplattform, die speziell für KI entwickelt wurde und eine 1,6-mal höhere Netzwerkleistung als handelsübliches Ethernet bietet. Es bietet beschleunigte RoCE-Leistung, deterministische Latenz und Leistungsisolation für Multi-Mandanten-KI-Workloads und erstreckt sich über mehrere Rechenzentren durch die Spectrum-XGS-Scale-across-Technologie und vereint dezentrale Einrichtungen zu einer einzigen leistungsstarken KI-Fabric.
NVIDIA Quantum InfiniBand ist eine leistungsstarke Netzwerkplattform, die extrem niedrige Latenz, Netzwerk-Computing und Silizium-Photonik-Co-Packaged-Optiksysteme der nächsten Generation für KI- und HPC-Workloads bietet. Mit SHARP-Netzwerk-Computing, das kollektive Operationen beschleunigt, und selbstheilenden Fabrics, die sich von Verbindungsausfällen 1.000-mal schneller als herkömmliche Netzwerke erholen, bietet Quantum InfiniBand das branchenweit schnellste und skalierbarste Netzwerk für KI-Trainingscluster und wissenschaftliche Supercomputer.
Die NVIDIA BlueField-Plattform entfesselt beispiellose Leistung, Effizienz und Innovation, um KI-Fabriken zu betreiben, die neue Klasse von speziell entwickelten Rechenzentren für KI. Mit seiner robusten Rechenleistung und den integrierten softwaredefinierten Hardwarebeschleunigern für Netzwerke, Datenspeicher und Sicherheit schafft BlueField eine sichere, beschleunigte Infrastruktur für jeden Workload in jeder Umgebung und läutet eine neue Ära der agentischen KI ein, in der autonome Agenten in großem Maßstab denken, zusammenarbeiten und handeln.
NVIDIA Spectrum-XGS Ethernet ist eine Scale-Across-Netzwerktechnologie, die verteilte Rechenzentren in einer einzigen einheitlichen KI-Super-Fabrik verbindet. Spectrum-XGS bietet eine 1,9-mal höhere NCCL-Leistung für KI-Bereitstellungen an mehreren Standorten im Vergleich zu handelsüblichem Inter-Site-Ethernet. Dadurch können KI-Fabriken über die Grenzen der Energieversorgung und physischen Kapazität eines einzelnen Gebäudes hinaus skalieren und gleichzeitig die gleichen leistungsstarken Fabric-Merkmale wie Spectrum-X-Bereitstellungen innerhalb einer Anlage beibehalten.
NVIDIA Silizium-Photonik-Netzwerke integrieren optische Komponenten direkt in den Switch-ASIC, wodurch steckbare Transceiver entfallen, um eine 5-mal bessere Energieeffizienz und Verfügbarkeit im Vergleich zu herkömmlichen steckbaren Designs zu bieten. Co-Packaged Silizium-Photonik ist die Technologie auf der physischen Ebene, die Netzwerke im Millionen-GPU-Maßstab und KI-Fabriken mit mehreren Standorten ermöglicht und so die Insertionsverluste für eine deutlich bessere Signalintegrität und Zuverlässigkeit reduziert.
NVIDIA DOCA ist die einheitliche Softwareplattform, die das volle Potenzial von NVIDIA BlueField und NVIDIA ConnectX™ für agentische KI erschließt. Sie bietet SDKs, Bibliotheken, unternehmensgerechte Microservices und Orchestrierungs-Frameworks – die Netzwerke, KI-nativen Datenspeicher, Laufzeitsicherheit, Telemetrie und Lebenszyklusmanagement umfassen – um KI-Workloads in der Produktion zu beschleunigen, zu sichern und zu skalieren. DOCA ist die Software-Grundlage für den Aufbau und den Betrieb einer intelligenten, leistungsstarken KI-Fabrik-Infrastruktur.