Die Grundlage für KI-Training und Inferenz im Gigaskalenbereich.
Mit der Konvergenz von Vorab-Training, Nachtrainieren und Inferenz-Zeit-Skalierungsgesetzen sind moderne Rechenzentren mit Leistungs- und Effizienz-Engpässen konfrontiert, wenn sie versuchen, Modelle zu unterstützen, die komplexe, mehrstufige Gedankenketten erfordern.
NVIDIA DGX™ Vera Rubin NVL72 wurde speziell entwickelt, um diese Herausforderungen zu bewältigen. Es ist eine sofort einsatzbereite KI-Infrastrukturlösung, die Spitzenleistung bietet und gleichzeitig die Energieeffizienz erheblich verbessert. DGX Vera Rubin NVL72 bietet branchenführende Verarbeitungsleistung pro Watt und Token pro Watt für jeden KI-Workload und ermöglicht es Unternehmen, Intelligenz drastisch zu skalieren und gleichzeitig die Token-Wirtschaftlichkeit zu verbessern.
DGX Vera Rubin NVL72 kombiniert die energieeffiziente NVIDIA Vera-CPU mit NVIDIA Rubin-GPUs, um eine führende Verarbeitungsleistung pro Watt zu liefern. Dadurch können Unternehmen das Training und die Long-Kontext-Inferenz innerhalb ihrer bestehenden Energiebilanz skalieren und das Rechenzentrum in eine energieeffiziente Engine für KI-Innovationen verwandeln.
NVIDIA DGX SuperPOD™ mit DGX Vera Rubin NVL72-Systemen beseitigt das Rätselraten bei der Bereitstellung einer groß angelegten KI-Infrastruktur. Mit einer einfachen, leicht bereitzustellenden Rack-Architektur wurde es entwickelt, um die Vorteile der neuesten Fortschritte in der Rechenzentrumstechnik zu nutzen.
NVIDIA Mission Control™ beschleunigt alle Aspekte des Betriebs, von der Konfiguration von DGX Vera Rubin NVL72 über die Integration in Einrichtungen bis hin zur Verwaltung von Clustern und Workloads. Dank intelligenter, integrierter Software erhalten Unternehmen die Kontrolle über Kühlungs- und Energieversorgungsvorgänge und können so die Ausfallsicherheit der Infrastruktur neu definieren.
Die NVIDIA DGX-Plattform mit NVIDIA DGX SuperPOD wurde von Grund auf für Unternehmens-KI entwickelt und vereint das Beste aus NVIDIA-Software, -Infrastruktur und -Expertise in einer modernen, einheitlichen KI-Entwicklungslösung.
| GPU and CPU | 72 x NVIDIA Rubin-GPUs, 36 x NVIDIA Vera-CPUs |
| GPU-Speicher insgesamt | Bandbreite | 20,7 TB | Bis zu 28,8 TB/s |
| Schneller Speicher insgesamt | 75 TB |
| Leistung | NVFP4 Inference: 3,600 PFLOPS NVFP4 Training: 2,520 PFLOPS FP8/FP6 Training: 1,260 PFLOPS |
| Networking | > 144 x OSFP Ein-Port NVIDIA® ConnectX®-9 VPI mit 800 Gbit/s NVIDIA InfiniBand und Ethernet > 18 x Zwei-Port NVIDIA BlueField®-4 VPI mit 400 Gbit/s NVIDIA InfiniBand und Ethernet |
| NVIDIA NVLink™ Switch-System | 9 x L1 NVIDIA NVLink-Switches |
| Management-Netzwerk | Host-Baseboard Management Controller (BMC) mit RJ45 |
| Software | NVIDIA Mission Control, NVIDIA AI Enterprise, NVIDIA DGX OS |
| Unternehmenssupport | Drei Jahre Unternehmensstandard-Support für Hardware und Software |
Specifications subject to change
Sprechen Sie mit einem NVIDIA-Experten über NVIDIA DGX Vera Rubin NVL72.
Erfahren Sie, warum NVIDIA DGX der bewährte Standard ist, auf dem Unternehmens-KI aufbaut.
Erschließen Sie das volle Potenzial der KI mit flexiblen Bereitstellungsoptionen, von lokalen bis hin zu gehosteten Lösungen.