NVIDIA DGX A100

Il sistema universale per l'infrastruttura IA

Il primo sistema IA del mondo basato su NVIDIA A100

NVIDIA DGX A100 è il sistema universale per tutti i carichi di lavoro di IA, offre densità di calcolo, prestazioni e flessibilità senza precedenti nel primo sistema IA a 5 petaFLOPS. NVIDIA DGX A100 è dotato dell'acceleratore più avanzato al mondo, la GPU NVIDIA A100 Tensor Core, che consente alle aziende di consolidare il training, l'inferenza e l'analisi in un'infrastruttura IA unificata e facile da implementare che include l'accesso diretto agli esperti di IA NVIDIA.

Le fondamenta essenziali del data center IA

Il sistema universale per ogni carico di lavoro IA

Il sistema universale per ogni carico di lavoro IA

NVIDIA DGX A100 è il sistema universale per tutte le infrastrutture IA, dall'analisi al training, fino al all'inferenza. Stabilisce un nuovo standard per la densità di calcolo, con 5 petaFLOPS di prestazioni IA in un fattore di forma 6U, sostituendo i silos dell'infrastruttura legacy con una piattaforma per ogni carico di lavoro IA.

DGXperts: accesso integrato a competenze IA

DGXperts: accesso integrato a competenze IA

Gli NVIDIA DGXperts sono un team globale di oltre 16.000 professionisti esperti di IA che hanno accumulato esperienza da più di dieci anni per aiutarti a massimizzare il valore del tuo investimento in DGX.

Tempi più rapidi per arrivare alla soluzione

Tempi più rapidi per arrivare alla soluzione

NVIDIA DGX A100 è il primo sistema al mondo con GPU NVIDIA A100 Tensor Core. Integrare otto GPU A100 con fino a 640 GB di memoria GPU, il sistema offre un'accelerazione senza precedenti, ed è completamente ottimizzato per il software NVIDIA CUDA-X™ e lo stack di soluzioni completo per data center NVIDIA. 

Scalabilità del data center senza pari

Scalabilità del data center senza pari

NVIDIA DGX A100 include una rete Mellanox integrata con 500 gigabyte al secondo (GB/s) di picco di banda bidirezionale. Questa è una delle tante funzionalità che rendono DGX A100 il componente essenziale per grandi cluster IA come NVIDIA DGX SuperPOD, il progetto di riferimento aziendale per l'infrastruttura IA scalabile.

Un modo più semplice e veloce per gestire l'IA

Un modo più semplice e veloce per gestire l'IA

Lo starter kit NVIDIA AI offre tutto ciò che serve ai team, da una piattaforma IA di livello mondiale, a software e strumenti ottimizzati, a servizi di consulenza, per avviare subito i progetti IA. Non perdere tempo e denaro nella creazione di una piattaforma IA. Attacca la spina e parti in un giorno, ricevi i casi d'uso definiti in una settimana e inizia subito a realizzare i modelli.

  • Per sviluppatori
  • Per manager IT
  • Per leader aziendali
Risolvi problemi di scienza dei dati più grandi e più complessi in tempi più rapidi

Risolvi problemi di scienza dei dati più grandi e più complessi in tempi più rapidi

Vantaggi

  • Elimina attività di configurazioni e test tediose con un software ottimizzato per l'IA pronto per l'esecuzione.
  • Migliora subito i modelli con prestazioni senza pari che consentono iterazioni più veloci.
  • Evita di perdere tempo con l'integrazione dei sistemi e il software engineering.
Implementa l'infrastruttura e rendi l'IA operativa su larga scala

Implementa l'infrastruttura e rendi l'IA operativa su larga scala

Vantaggi

  • Scopri il design di infrastruttura semplificata e la pianificazione delle capacità in un solo sistema per tutti i carichi di lavoro.
  • Ottieni la massima densità di elaborazione e le prestazioni più elevate in un ingombro estremamente ridotto.
  • Approfitta della sicurezza integrata in ogni livello, dal container al chip.

 

Accorcia i tempi per ottenere le informazioni e accelera il ROI dell'IA

Accorcia i tempi per ottenere le informazioni e accelera il ROI dell'IA

Vantaggi

  • Aumenta la produttività degli esperti di dati ed elimina le attività che non aggiungono valore.
  • Accelera il ciclo di sviluppo, dal concetto alla produzione.
  • Rimuovi gli ostacoli con i consigli dei DGXperts.
  •  

Scopri di più sui sistemi NVIDIA DGX A100

Prestazioni rivoluzionarie

Training

Training DLRM

Throughput fino a 3 volte
superiore per il training con
IA sui modelli più grandi

Inferenza

Inferenza RNN-T: flusso singolo

Throughput fino a 1,25 volte
superiore per inferenza con IA
 

Analisi dei dati

Benchmark di analisi dei big data

Throughput fino a 83 volte superiore
rispetto alla CPU, throughput 2 volte
superiore rispetto a DGX A100 320GB

Esplora i potenti componenti di DGX A100

1 8 GPU NVIDIA A100 con 640 GB di memoria GPU totale
12 NVLink per GPU, 600 GB/s di banda GPU-GPU

2 6 NVSwitch di seconda generazione
4,8 TB/s di banda bidirezionale, Il doppio rispetto alla generazione precedente

3 10 Mellanox ConnectX-6 VPI HDR InfiniBand/200 Gb Ethernet
500 GB/s di picco di banda bidirezionale

4 CPU AMD Dual 64-Core e 2 TB di memoria di sistema
2,7 volte i Core per alimentare i processi IA più intensivi

5 SSD NVME Gen4 30 TB
50 GB/s di picco di banda, Velocità raddoppiata rispetto alle SSD NVME Gen3

Data Center

Scopri il nuovo NVIDIA DGX A100.

La tecnologia all'interno di NVIDIA DGX A100

  • GPU A100
  • Multi-Instance GPU
  • NVLink e NVSwitch
  • Mellanox ConnectX-6
  • Stack software ottimizzato
  • Sicurezza

NVIDIA A100 Tensor Core GPU

La GPU NVIDIA A100 Tensor Core offre accelerazione senza precedenti per IA, analisi dei dati e calcolo ad alte prestazioni (HPC) per affrontare le sfide di calcolo più complesse del mondo. Con l'enorme aumento delle prestazioni di NVIDIA Tensor Core di terza generazione, la A100 è in grado di scalare in modo efficiente a migliaia di GPU o, con Multi-Instance GPU, essere allocata come sette diverse istanze GPU per accelerare i carichi di lavoro di ogni dimensione.

NVIDIA A100 Tensor Core GPU

Multi-Instance GPU (MIG)

Con MIG, le otto GPU A100 in DGX A100 possono essere configurate in fino a 56 istanze, ciascuna di esse completamente isolata con la propria memoria a banda elevata, cache e core di calcolo. Questo consente agli amministratori di dimensionare correttamente le GPU con qualità del servizio (QoS) garantita per più carichi di lavoro.

Multi Instance GPU

NVLink e NVSwitch di nuova generazione

La terza generazione di NVIDIA® NVLink® in DGX A100 raddoppia la larghezza di banda diretta GPU-GPU a 600 gigabyte al secondo (GB/s), quasi 10 volte superiore a PCIe Gen4. DGX A100 dispone inoltre di NVIDIA NVSwitch™ di nuova generazione, due volte più veloce rispetto al precedente.

NVLink e NVSwitch di nuova generazione

Mellanox ConnectX-6 VPI HDR InfiniBand

DGX A100 è dotato dei più recenti adattatori Mellanox ConnectX-6 VPI HDR InfiniBand/Ethernet, ciascuno in esecuzione a 200 Gb/s per creare un fabric ad alta velocità per carichi di lavoro IA su larga scala.

Mellanox ConnectX-6 VPI HDR InfiniBand

Stack software ottimizzato

DGX A100 integra uno stack software DGX testato e ottimizzato, che include un sistema operativo di base calibrato per IA, tutto il software di sistema necessario e applicazioni accelerate da GPU, modelli pre-addestrati e altro ancora, da NGC.

Stack software ottimizzato

Sicurezza integrata

DGX A100 offre il livello di sicurezza più solido per le distribuzioni IA, con un approccio a più livelli che protegge tutti i principali componenti hardware e software, tra cui unità autocrittografate, container software firmati, gestione e monitoraggio protetti e molto altro ancora.

Sicurezza integrata

Scopri il supporto di livello aziendale per i sistemi NVIDIA DGX.

Acquista i sistemi NVIDIA DGX

Scopri i sistemi NVIDIA DGX