CPU NVIDIA Grace

Progettato appositamente per risolvere i problemi di calcolo più grandi del mondo.

Accelerare i più grandi carichi di lavoro IA, HPC, cloud e hyperscale

I modelli IA stanno esplodendo in termini di complessità e dimensioni, mentre migliorano l'IA conversazionale con centinaia di miliardi di parametri, potenziano i sistemi recommender avanzati che contengono decine di terabyte di dati e consentono nuove scoperte scientifiche. Questi enormi modelli stanno spingendo i limiti dei sistemi di oggi. Il loro continuo ridimensionamento per migliorare la precisione e l'utilizzabilità richiede l'accesso rapido a un grande pool di memoria, oltre all'utilizzo congiunto di CPU e GPU.

I principali produttori globali di sistemi accelerano l'adozione di NVIDIA Grace e Grace Hopper

Prodotti

NVIDIA Grace Hopper Superchip

NVIDIA Grace Hopper Superchip combina le architetture Grace e Hopper utilizzando NVIDIA® NVLink-C2C per fornire un modello di memoria coerente CPU+GPU per applicazioni IA e HPC accelerate.

  • CPU+GPU progettata per IA e HPC su larga scala
  • Nuova interfaccia coerente da 900 GB/s, 7 volte più veloce rispetto a PCIe Gen 5
  • Banda di memoria aggregata 30 volte superiore alla GPU rispetto a DGX A100
  • Esegue tutti gli stack software e le piattaforme software NVIDIA, tra cui NVIDIA HPC, NVIDIA AI e NVIDIA Omniverse
NVIDIA Grace Hopper Superchip
NVIDIA Grace CPU Superchip

NVIDIA Grace CPU Superchip

La CPU NVIDIA Grace Superchip utilizza la tecnologia NVLink-C2C per fornire 144 Core Arm® v9 e 1 TB/s di banda di memoria.

  • CPU ad alte prestazioni per HPC e cloud computing
  • Design super chip con fino a 144 core CPU Arm v9
  • Il primo LPDDR5x al mondo con memoria ECC, larghezza di banda totale da 1 TB/s
  • SPECrate®2017_int_base oltre 740 (stimati)
  • Interfaccia coerente 900 GB/s, 7 volte più veloce rispetto a PCIe Gen 5
  • Densità di packaging 2 volte superiore rispetto alle soluzioni basate su DIMM
  • 2 volte le prestazioni per watt della principale CPU di oggi
  • Esegue tutti gli stack software e le piattaforme software NVIDIA, tra cui NVIDIA RTX, HPC, NVIDIA AI e NVIDIA Omniverse

Design di riferimento NVIDIA Grace per carichi di lavoro moderni nel data center

Annunciamo i design di sistemi per digital twin, grafica cloud e cloud gaming, IA e calcolo ad alte prestazioni.

Grafica e gaming CGX-Cloud

CGX

Grafica cloud e cloud gaming

Grace CPU Superchip
A16
BlueField-3

Digital twin OVX e Omniverse

OVX

Digital Twin e Omniverse

Grace CPU Superchip
GPU NVIDIA
BlueField-3

HGX-HPC

HGX

HPC

Grace CPU Superchip
BlueField-3
IO definito dall'OEM

Training, inferenza e HPC HGX-AI

HGX

Training, inferenza e HPC basati su IA

Grace Hopper Superchip
BlueField-3
IO definito dall'OEM/NVLink 4 gen

Progettata per risolvere problemi complessi

La CPU NVIDIA Grace sfrutta la flessibilità dell'architettura Arm® per creare un'architettura di CPU e server progettata da zero per il computing accelerato. Questo design innovativo offrirà una larghezza di banda aggregata fino a 30 volte superiore rispetto ai server più veloci di oggi e prestazioni fino a 10 volte superiori per le applicazioni che eseguono terabyte di dati. NVIDIA Grace è stata progettata per consentire a scienziati e ricercatori di addestrare i modelli più voluminosi del mondo e risolvere i problemi più complessi.

Le più recenti innovazioni tecniche

NVIDIA NVLink-C2C di quarta generazione

Per risolvere principali problemi di IA e HPC è necessaria una memoria ad alta capacità e a elevata larghezza di banda (HBM). NVIDIA NVLink-C2C di quarta generazione offre una banda bidirezionale a 900 GB/s tra CPU NVIDIA Grace e GPU NVIDIA. La connessione garantisce uno spazio di indirizzi per la memoria unificato e con cache coerente, che abbina la memoria di sistema con la memoria HBM della GPU per una programmabilità semplificata. Questa connessione coerente e a elevata larghezza di banda tra CPU e GPU è fondamentale per accelerare la risoluzione di problemi di IA e HPC più complessi in futuro.

Nuovo sottosistema di memoria a elevata larghezza di banda che utilizza LPDDR5x con ECC

La larghezza di banda della memoria è un fattore critico per le prestazioni del server e una memoria DDR (Double Data Rate) standard consuma una parte significativa della potenza complessiva del socket. La CPU NVIDIA Grace è la prima CPU server a sfruttare la memoria LPDDR5x con affidabilità di classe server attraverso meccanismi come il codice di correzione errori (Error-Correcting Code, ECC) per soddisfare le esigenze del data center, offrendo al contempo una larghezza di banda della memoria 2 volte superiore e una maggiore efficienza energetica fino a 10 volte superiore rispetto alla memoria server di oggi. La soluzione NVIDIA Grace LPDDR5x abbinata all'ultimo livello di cache di grandi dimensioni e ad alte prestazioni offre la larghezza di banda necessaria per i grandi modelli, riducendo al contempo i consumi del sistema e massimizzando le prestazioni per la prossima generazione di carichi di lavoro.

Core Arm v9 di nuova generazione

Nonostante i progressi continui delle funzionalità di calcolo parallelo delle GPU, i carichi di lavoro possono ancora risultare confinati in attività seriali eseguite sulla CPU. Una CPU veloce ed efficiente è un componente fondamentale della progettazione del sistema per consentire la massima accelerazione del carico di lavoro. La CPU NVIDIA Grace integra i core Arm v9 di nuova generazione per offrire prestazioni elevate in un design efficiente dal punto di vista energetico, il che aiuta scienziati e ricercatori a portare a termine i loro progetti.

Partner

Asus
Atos logo
DELL logo
Logo Fii
Logo Gigabyte
H3c logo
Hewlett Packard Enterprise Logo
Inspur logo
Lenovo logo
Nettrix logo
Quanta-cloud
Supermicro
Logo Wiwynn
xfusion-logo

I principali produttori globali di sistemi accelerano l'adozione di NVIDIA Grace e Grace Hopper