CPU NVIDIA Grace

Per risolvere principali problemi di IA e HPC è necessaria una memoria ad alta capacità e a elevata larghezza di banda (HBM). NVIDIA NVLink-C2C di quarta generazione offre una banda bidirezionale a 900 GB/s tra CPU NVIDIA Grace e GPU NVIDIA. La connessione garantisce uno spazio di indirizzi per la memoria unificato e con cache coerente, che abbina la memoria di sistema con la memoria HBM della GPU per una programmabilità semplificata. Questa connessione coerente e a elevata larghezza di banda tra CPU e GPU è fondamentale per accelerare la risoluzione di problemi di IA e HPC più complessi in futuro.

La larghezza di banda della memoria è un fattore critico per le prestazioni del server e una memoria DDR (Double Data Rate) standard consuma una parte significativa della potenza complessiva del socket. La CPU NVIDIA Grace è la prima CPU server a sfruttare la memoria LPDDR5x con affidabilità di classe server attraverso meccanismi come il codice di correzione errori (Error-Correcting Code, ECC) per soddisfare le esigenze del data center, offrendo al contempo una larghezza di banda della memoria 2 volte superiore e una maggiore efficienza energetica fino a 10 volte superiore rispetto alla memoria server di oggi. La soluzione NVIDIA Grace LPDDR5x abbinata all'ultimo livello di cache di grandi dimensioni e ad alte prestazioni offre la larghezza di banda necessaria per i grandi modelli, riducendo al contempo i consumi del sistema e massimizzando le prestazioni per la prossima generazione di carichi di lavoro.

Nonostante i progressi continui delle funzionalità di calcolo parallelo delle GPU, i carichi di lavoro possono ancora risultare confinati in attività seriali eseguite sulla CPU. Una CPU veloce ed efficiente è un componente fondamentale della progettazione del sistema per consentire la massima accelerazione del carico di lavoro. La CPU NVIDIA Grace integra i core Arm v9 di nuova generazione per offrire prestazioni elevate in un design efficiente dal punto di vista energetico, il che aiuta scienziati e ricercatori a portare a termine i loro progetti.