KI-Infrastruktur für die Agenten-Ära.
Überblick
Die NVIDIA Vera Rubin-Plattform wurde für das Zeitalter der agentischen KI und des logischen Schlussfolgerns entwickelt und ist darauf ausgelegt, mehrstufige Problemlösungsprozesse und umfangreiche Workflows mit langen Kontexten im großen Maßstab zu bewältigen. Vera Rubin ist ein Multi-Rack-POD-Scale-System, das fünf speziell entwickelte Rack-Scale-Systeme in einem riesigen, kohärenten KI-Supercomputer vereint. Durch die Beseitigung kritischer Engpässe in der Kommunikation und Speicherbewegung beschleunigt die Plattform die Inferenz und sorgt für mehr Token pro Watt und geringere Kosten pro Token im Vergleich zur NVIDIA Blackwell-Architektur.
NVIDIA Vera Rubin NVL72 kombiniert die modernsten Technologien von NVIDIA – 72 Rubin-GPUs, 36 Vera-CPUs, ConnectX™-9 SuperNIC™s und BlueField™-4 DPUs. Es skaliert die Intelligenz vertikal in einer Rack-Scale-Plattform der dritten Generation mit dem NVIDIA NVLink™ 6-Switch und skaliert horizontal mit NVIDIA Quantum-X800 InfiniBand und Spectrum-X™ Ethernet, um die industrielle KI-Revolution im großen Maßstab voranzutreiben.
Vera Rubin NVL72 verfügt über eine neue Transformer-Engine mit adaptiver Komprimierung, um die NVFP4-Inferenzleistung zu steigern, NVIDIA Confidential Computing der dritten Generation, das die Sicherheit über die vollständige Rack-Scale-Plattform hinweg erweitert, und eine RAS-Engine der zweiten Generation, die Ausfallsicherheit im Rack-Maßstab bietet.
Das NVIDIA Vera CPU-Rack bietet eine dichte, flüssigkeitsgekühlte CPU-Infrastruktur, die speziell für bestärkendes Lernen und agentische KI in großem Maßstab entwickelt wurde. Jedes Rack basiert auf der modularen NVIDIA MGX-Referenzarchitektur. Jedes Rack integriert 256 NVIDIA Vera-CPUs und unterstützt mehr als 22.500 gleichzeitige Sandbox-Umgebungen. Dies bietet KI-Fabriken skalierbare, energieeffiziente CPU-Kapazität für Tool-Aufrufe, Auswertung, Datenverarbeitung und Orchestrierung.
NVIDIA Groq 3 LPX ist der Inferenzbeschleuniger für NVIDIA Vera Rubin, der für die Anforderungen agentischer Systeme hinsichtlich geringer Latenz und großer Kontexte entwickelt wurde. Durch die Kombination von Rubin GPUs für Speicher mit hoher Bandbreite (HBM) und LPUs für statischen Arbeitsspeicher (SRAM) bietet NVIDIA Vera Rubin mit LPX eine neue Klasse der Inferenzleistung für Modelle mit Billionen von Parametern und Millionen von Token im Kontext.
NVIDIA Vera BlueField-4 STX ist eine modulare Grundlage für KI-native Datenspeicherlösungen im Rack-Maßstab. Durch die Integration von NVIDIA Vera Rubin, einem BlueField-4 STX-Datenspeicherprozessor, Spectrum-X-Netzwerken und NVIDIA KI-Software wird so der gesamte Datenlebenszyklus, von der Datenanalyse über das Modelltraining bis hin zu vollständigen agentischen KI-Workflows in großem Maßstab optimiert.
Spectrum-6 SPX Ethernet wurde entwickelt, um Netzwerke in KI-Fabriken zu beschleunigen. Es ist entweder mit NVIDIA Spectrum-X™ Ethernet- oder NVIDIA Quantum-X800 InfiniBand-Switches konfigurierbar und bietet Rack-to-Rack-Konnektivität mit geringer Latenz und hohem Durchsatz in großem Maßstab.
Lesen Sie diesen technischen Fachartikel, um zu erfahren, wie NVIDIA Vera Rubin das Rechenzentrum und nicht den Chip als Recheneinheit behandelt und so eine neue Grundlage für die effiziente, sichere und vorhersehbare Erzeugung von Intelligenz in großem Maßstab schafft.