CPU NVIDIA Grace

NVIDIA Grace es la primera CPU del servidor en aprovechar la memoria LPDDR5X con fiabilidad de clase servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del centro de datos, al tiempo que ofrece el doble de ancho de banda de memoria y hasta 10 veces mejor eficiencia energética en comparación con la memoria del servidor actual. La solución LPDDR5X, junto con la memoria caché de último nivel de gran rendimiento y alto rendimiento de NVIDIA Grace, ofrece el ancho de banda necesario para los modelos grandes, al tiempo que reduce la potencia del sistema para maximizar el rendimiento de la próxima generación de cargas de trabajo.

La IA generativa consume mucha memoria y recursos computacionales. NVIDIA GH200 Grace Hopper Superchip utiliza 96 GB de memoria HBM3, lo que proporciona más de 2,5 veces el ancho de banda de memoria de la GPU en el A100 original. La próxima generación de GH200 es el primer procesador del mundo que utiliza 141 GB de tecnología de memoria HBM3e y que ofrece más del triple de ancho de banda en comparación con la A100 original. El HBM de NVIDIA Grace Hopper se combina con la memoria de la CPU a través de NVLink-C2C para proporcionar más de 600 GB de memoria de acceso rápido a la GPU para ofrecer la capacidad de memoria y el ancho de banda necesarios para manejar las cargas de trabajo de IA generativa y computación acelerada más complejas del mundo.