NVIDIA Vera Rubin-Plattform

NVIDIA Vera Rubin-Plattform

KI-Infrastruktur für die Agenten-Ära.

Überblick

Das Zeitalter der agentischen KI vorantreiben

Die NVIDIA Vera Rubin-Plattform wurde für das Zeitalter der agentischen KI und des logischen Schlussfolgerns entwickelt und ist darauf ausgelegt, mehrstufige Problemlösungsprozesse und umfangreiche Workflows mit langen Kontexten im großen Maßstab zu bewältigen. Vera Rubin ist ein Multi-Rack-POD-Scale-System, das fünf speziell entwickelte Rack-Scale-Systeme in einem riesigen, kohärenten KI-Supercomputer vereint. Durch die Beseitigung kritischer Engpässe in der Kommunikation und Speicherbewegung beschleunigt die Plattform die Inferenz und sorgt für mehr Token pro Watt und geringere Kosten pro Token im Vergleich zur NVIDIA Blackwell-Architektur.

NVIDIA Vera Rubin geht in die volle Produktion, um Fabriken für agentische KI weltweit zu unterstützen

NVIDIA Vera Rubin geht derzeit in die volle Produktion: Taiwans führende Serverhersteller und globale Marktführer in der Lieferkette fertigen Vera Rubin-basierte Systeme in großem Maßstab und liefern diese aus – und unterstützen damit KI-Labore, Cloud-Anbieter und Hyperscaler dabei, die Intelligenz von morgen zu entwickeln.

NVIDIA Vera Rubin eröffnet neue Dimensionen der KI

Die NVIDIA Vera Rubin-Plattform umfasst sieben neue Chips, die sich jetzt in voller Produktion befinden, um die weltweit größten KI-Fabriken zu skalieren.

Ein Blick in die Vera Rubin-Plattform

NVIDIA Vera Rubin NVL72

NVIDIA Vera Rubin NVL72 kombiniert die modernsten Technologien von NVIDIA – 72 Rubin-GPUs, 36 Vera-CPUs, ConnectX™-9 SuperNIC™s und BlueField™-4 DPUs. Es skaliert die Intelligenz vertikal in einer Rack-Scale-Plattform der dritten Generation mit dem NVIDIA NVLink™ 6-Switch und skaliert horizontal mit NVIDIA Quantum-X800 InfiniBand und Spectrum-X™ Ethernet, um die industrielle KI-Revolution im großen Maßstab voranzutreiben.

Vera Rubin NVL72 verfügt über eine neue Transformer-Engine mit adaptiver Komprimierung, um die NVFP4-Inferenzleistung zu steigern, NVIDIA Confidential Computing der dritten Generation, das die Sicherheit über die vollständige Rack-Scale-Plattform hinweg erweitert, und eine RAS-Engine der zweiten Generation, die Ausfallsicherheit im Rack-Maßstab bietet.

NVIDIA Vera CPU

Das NVIDIA Vera CPU-Rack bietet eine dichte, flüssigkeitsgekühlte CPU-Infrastruktur, die speziell für bestärkendes Lernen und agentische KI in großem Maßstab entwickelt wurde. Jedes Rack basiert auf der modularen NVIDIA MGX-Referenzarchitektur. Jedes Rack integriert 256 NVIDIA Vera-CPUs und unterstützt mehr als 22.500 gleichzeitige Sandbox-Umgebungen. Dies bietet KI-Fabriken skalierbare, energieeffiziente CPU-Kapazität für Tool-Aufrufe, Auswertung, Datenverarbeitung und Orchestrierung.

NVIDIA Groq 3 LPX

NVIDIA Groq 3 LPX ist der Inferenzbeschleuniger für NVIDIA Vera Rubin, der für die Anforderungen agentischer Systeme hinsichtlich geringer Latenz und großer Kontexte entwickelt wurde. Durch die Kombination von Rubin GPUs für Speicher mit hoher Bandbreite (HBM) und LPUs für statischen Arbeitsspeicher (SRAM) bietet NVIDIA Vera Rubin mit LPX eine neue Klasse der Inferenzleistung für Modelle mit Billionen von Parametern und Millionen von Token im Kontext.

NVIDIA Vera BlueField-4 STX

NVIDIA Vera BlueField-4 STX ist eine modulare Grundlage für KI-native Datenspeicherlösungen im Rack-Maßstab. Durch die Integration von NVIDIA Vera Rubin, einem BlueField-4 STX-Datenspeicherprozessor, Spectrum-X-Netzwerken und NVIDIA KI-Software wird so der gesamte Datenlebenszyklus, von der Datenanalyse über das Modelltraining bis hin zu vollständigen agentischen KI-Workflows in großem Maßstab optimiert.

NVIDIA Spectrum-6 SPX Ethernet

Spectrum-6 SPX Ethernet wurde entwickelt, um Netzwerke in KI-Fabriken zu beschleunigen. Es ist entweder mit NVIDIA Spectrum-X™ Ethernet- oder NVIDIA Quantum-X800 InfiniBand-Switches konfigurierbar und bietet Rack-to-Rack-Konnektivität mit geringer Latenz und hohem Durchsatz in großem Maßstab.

NVIDIA Vera Rubin-Produkte entdecken

NVIDIA DGX Vera Rubin NVL72

NVIDIA DGX™ Vera Rubin NVL72 bietet Unternehmen eine schlüsselfertige, direkt einsatzbereite KI-Infrastrukturlösung, die auf der NVIDIA Vera Rubin-Plattform basiert. Es wurde speziell für die Bereitstellung in großem Maßstab entwickelt, um die komplexesten KI-Modelle zu beschleunigen.

NVIDIA DGX Rubin NVL8

NVIDIA DGX Rubin NVL8 ist ein flüssigkeitsgekühltes KI-System, das mit acht NVIDIA Rubin-GPUs und NVLink der sechsten Generation arbeitet. Es wurde speziell für das Beschleunigen von Training, Inferenz und Nachtrainieren für jeden KI-Workload entwickelt.

NVIDIA HGX Rubin NVL8

Die NVIDIA HGX™ Rubin NVL8 integriert acht NVIDIA Rubin-GPUs mit Hochgeschwindigkeits-NVLink-Verbindungen der sechsten Generation, um das Rechenzentrum in eine neue Ära des beschleunigten Computings und der generativen KI zu führen. NVIDIA HGX Rubin NVL8 kann entweder mit NVIDIA Vera-CPUs oder x86-basierten CPU-Baseboards kombiniert werden.

NVIDIA Vera Rubin NVL4

NVIDIA Vera Rubin NVL4 eröffnet automatisierte wissenschaftliche Entdeckungen und agentische KI durch eine Bridge, die vier NVIDIA Rubin-GPUs mit zwei NVIDIA Vera-CPUs über NVLink-C2C verbindet. Es ist mit flüssigkeitsgekühlten NVIDIA MGX-Servern kompatibel und bietet im Vergleich zu Hopper bis zu 4-mal mehr Leistung bei wissenschaftlichen Simulationen, 6-mal mehr beim AI-for-Science-Training und 8-mal mehr bei Inferenz.

Innerhalb der NVIDIA Vera Rubin Plattform

Lesen Sie diesen technischen Fachartikel, um zu erfahren, wie NVIDIA Vera Rubin das Rechenzentrum und nicht den Chip als Recheneinheit behandelt und so eine neue Grundlage für die effiziente, sichere und vorhersehbare Erzeugung von Intelligenz in großem Maßstab schafft.