NVIDIA DGX Vera Rubin NVL72
La base per l'addestramento e l'inferenza con IA su larga scala.
Panoramica
Scalare l'intelligenza nell'era dell'IA agentica
Con la convergenza delle leggi di scalabilità nel tempo di pre-addestramento, post-addestramento e inferenza, i data center moderni devono affrontare colli di bottiglia in termini di prestazioni ed efficienza quando cercano di supportare modelli che richiedono catene di pensiero complesse e multi-fase.
Progettata appositamente per affrontare queste sfide, NVIDIA DGX™ Vera Rubin NVL72 è una soluzione di infrastruttura IA chiavi in mano che offre prestazioni all'avanguardia e migliora notevolmente l'efficienza energetica. DGX Vera Rubin NVL72 offre prestazioni leader del settore per watt e token per watt per qualsiasi carico di lavoro IA, consentendo alle aziende di scalare notevolmente l'intelligenza migliorando al contempo l'economia dei token.
Funzionalità
Addestramento e inferenza accelerati per qualsiasi modello AI
Massima efficienza con i superchip NVIDIA Vera Rubin
DGX Vera Rubin NVL72 abbina la CPU NVIDIA Vera ad alta efficienza energetica alle GPU NVIDIA Rubin per offrire prestazioni per watt leader di settore. Questo consente alle aziende di scalare l'addestramento e l'inferenza a lungo contesto all'interno dell'impronta energetica esistente, trasformando il data center in un motore a risparmio energetico per l'innovazione AI.
Il motore universale per l'IA su larga scala
NVIDIA DGX SuperPOD™ con i sistemi DGX Vera Rubin NVL72 elimina le congetture nella distribuzione dell'infrastruttura AI su larga scala. Con un'architettura rack semplice e facile da distribuire, è progettata per sfruttare gli ultimi progressi nell'ingegneria dei data center.
Accelerare le operazioni con il software intelligente
NVIDIA Mission Control™ accelera ogni aspetto delle operazioni, dalla configurazione di DGX Vera Rubin NVL72 all'integrazione con le strutture alla gestione di cluster e carichi di lavoro. Grazie a un software intelligente e integrato, le aziende ottengono il controllo sugli eventi di raffreddamento e alimentazione per ridefinire la resilienza dell'infrastruttura.
Lo standard comprovato per l'IA aziendale
Creata da zero per l'IA aziendale, la piattaforma NVIDIA DGX, con NVIDIA DGX SuperPOD™, combina i migliori software, infrastrutture e competenze NVIDIA in una soluzione di sviluppo IA moderna e unificata.
Specifiche
Specifiche di NVIDIA DGX Vera Rubin NVL72
| GPU and CPU | 72 GPU NVIDIA Rubin, 36 CPU NVIDIA Vera |
| Memoria GPU totale | Larghezza di banda | 20,7 TB | Fino a 28,8 TB/s |
| Memoria veloce totale | 75 TB |
| Prestazioni | NVFP4 Inference: 3,600 PFLOPS NVFP4 Training: 2,520 PFLOPS FP8/FP6 Training: 1,260 PFLOPS |
| Networking | > 144x VPI OSFP a porta singola NVIDIA® ConnectX®-9 con 800 Gb/s NVIDIA InfiniBand ed Ethernet > 18x VPI NVIDIA BlueField®-4 a doppia porta con 400 Gb/s NVIDIA InfiniBand ed Ethernet |
| Sistema switch NVIDIA NVLink™ | 9x L1 Switch NVIDIA NVLink |
| Rete di gestione | Controller di gestione della scheda di base (BMC) host con RJ45 |
| Software | NVIDIA Mission Control, NVIDIA AI Enterprise, NVIDIA DGX OS |
| Supporto aziendale | Tre anni di supporto standard aziendale per hardware e software |
Specifications subject to change
Offerte
Portare il supercomputing in ogni azienda
Inizia
Scopri di più su NVIDIA DGX Vera Rubin NVL72
Parla con un esperto NVIDIA di NVIDIA DGX Vera Rubin NVL72.
Scopri i vantaggi della piattaforma NVIDIA DGX
Scopri perché NVIDIA DGX è lo standard collaudato su cui si basa l'IA aziendale.
Esplora l'ecosistema NVIDIA DGX
Sblocca tutto il potenziale dell'IA con opzioni di distribuzione flessibili, da soluzioni on-premises a soluzioni in hosting.