NVIDIA Vera Rubin NVL72

Rubin-GPUs mit HBM4 und der Transformer-Engine der dritten Generation wurden für die nächste Generation der KI entwickelt.

Vera-CPUs wurden speziell für Datenbewegungen und agentisches Reasoning entwickelt und bieten energieeffiziente Rechenleistung mit hoher Bandbreite und deterministischer Leistung.

NVLink 6 Switches bieten eine skalierbare All-to-all-Bandbreite von 3,6 Terabyte pro Sekunde (TB/s) und ermöglichen eine Hochgeschwindigkeits-GPU-zu-GPU-Kommunikation für KI.

ConnectX-9 SuperNICs bieten eine Bandbreite von 1,6 Terabit pro Sekunde (Tb/s) pro GPU mit programmierbarem Remote Direct-Memory Access (RDMA) für GPU-direktes Netzwerk mit geringer Latenz im großen Maßstab.

BlueField-4-DPUs beschleunigen die Datenverarbeitung über Datenspeichern, Netzwerken, Cybersicherheit und elastische Skalierung in KI-Fabriken hinweg.

Spectrum-X Ethernet Scale-out-Switches mit integrierter Silizium-Photonik bieten eine fünffach bessere Energieeffizienz, eine zehnfach höhere Netzwerkausfallsicherheit und eine bis zu fünffach höhere Betriebszeit im Vergleich zu herkömmlichen Netzwerken mit steckbaren Transceivern.

Dies ist der Inferenzbeschleuniger für NVIDIA Vera Rubin NVL72, der für die Anforderungen agentischer Systeme an eine geringe Latenz und große Kontexte entwickelt wurde. Das NVIDIA Groq 3 LPX Rack verfügt über 256 LPUs mit 128 GB SRAM, 40 PB/s Speicherbandbreite und 640 TB/s Scale-up-Bandbreite pro Rack. Es wurde gemeinsam mit Vera Rubin NVL72 entwickelt und bietet die 35-fache Verarbeitungsleistung pro Watt und bis zu 10-mal mehr Umsatzmöglichkeiten für Modelle mit Billionen von Parametern im Vergleich zu Blackwell.