NVIDIA Vera CPU Rack
Speziell entwickelt für bestärkendes Lernen und agentische KI.
Überblick
Rack-Infrastruktur für KI-Fabriken
Das Vera CPU Rack basiert auf NVIDIA MGX™ und bietet eine Rack-Scale-CPU-Infrastruktur für moderne KI-Fabriken. Mit der zunehmenden Verbreitung von Systemen für bestärkendes Lernen (Reinforcement Learning, RL) und agentischer KI führen CPUs den Code, die Tools und die Datenworkflows aus, die für die Ergebnisse sorgen. Vera kombiniert führende Leistung pro Kern, enorme Speicherbandbreite und außergewöhnliche Energieeffizienz und führt Workloads bis zu 50 % schneller mit doppelter Effizienz gegenüber herkömmlicher CPU-Infrastruktur aus.
CPU-Sandboxes:
Ausführung von KI-Aktionen in großem Maßstab
Umgebungen, die RL und agentische KI unterstützen
RL- und agentische KI-Systeme basieren auf Softwareumgebungen außerhalb des Modells, die modellgenerierten Code, Tools und Datenoperationen ausführen, Ergebnisse bewerten und Feedback zurückgeben, bevor der nächste Schritt ausgeführt wird. Jede Umgebung wird in der Regel auf einem dedizierten CPU-Kern ausgeführt, und in großem Maßstab werden Tausende bis Millionen von Umgebungen parallel ausgeführt. Ihre Leistung pro voll belastetem Kern bestimmt direkt, wie schnell Beschleuniger weiterarbeiten können.
Das NVIDIA Vera CPU-Rack wurde speziell für die Unterstützung dieser Umgebungen in großem Maßstab entwickelt. Ein einzelnes flüssigkeitsgekühltes Rack integriert bis zu 256 Vera-CPUs und unterstützt mehr als 22.500 gleichzeitige CPU-Umgebungen. Es wurde für eine nachhaltige Leistung pro Kern und eine bis zu doppelt so hohe Energieeffizienz entwickelt, sodass Bewertungszyklen kurz gehalten werden und KI-Fabriken mit Spitzendurchsatz betrieben werden können.
Technische Daten1
NVIDIA Vera
| NVIDIA Vera CPU Rack | NVIDIA Vera CPU | |
|---|---|---|
| Konfiguration: | 256 Vera CPUs | 1 Vera CPU |
| Kerne | Threads | 22.528 NVIDIA Olympus Kerne 45.056 Threads |
88 NVIDIA Olympus-Kerne 176 Threads |
| Speicherkapazität | Bis zu 400 TB | Bis zu 1,5 TB |
| Bandbreite bündeln | Bis zu 315 TB/s | Bis zu 1,2 TB/s |
| N/S-Netzwerke | NVIDIA BlueField-4 DPU | N/A |
| KÜHLUNG | Flüssigkeitsgekühlt | N/A |
1. Vorläufige Informationen. Alle Werte sind bis zu den angegebenen Grenzen gültig und können sich ändern.
Partner
Lernen Sie unsere Partner kennen
Jetzt starten
Verpassen Sie keine Neuigkeiten über NVIDIA
Melden Sie sich an, um aktuelle Nachrichten, Updates und mehr von NVIDIA zu erhalten.