CPU NVIDIA Grace

Resolver los mayores problemas de IA y HPC requiere una memoria de alta capacidad y un elevado ancho de banda (HBM). La cuarta generación de NVIDIA NVLink-C2C ofrece 900 GB/s de ancho de banda bidireccional entre la CPU NVIDIA Grace y las GPU NVIDIA. La conexión ofrece un espacio de direcciones de memoria unificado y coherente con caché que combina la memoria del sistema y de la GPU HBM para simplificar la programabilidad. Esta conexión coherente de elevado ancho de banda entre la CPU y las GPU es clave para acelerar los problemas de IA y HPC más complejos del mañana.

El ancho de banda de memoria es un factor crítico en el rendimiento del servidor, y la memoria estándar de doble velocidad de datos (DDR) consume una porción significativa de la potencia general del socket. La CPU NVIDIA Grace es la primera CPU del servidor en aprovechar la memoria LPDDR5x con confiabilidad de clase servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del centro de datos, al tiempo que ofrece el doble de ancho de banda de memoria y hasta 10 veces mejor eficiencia energética en comparación con la memoria del servidor actual. La solución NVIDIA Grace LPDDR5x junto con la caché grande, de alto rendimiento y de último nivel ofrece el ancho de banda necesario para los modelos grandes, al tiempo que reduce la potencia del sistema para maximizar el rendimiento de la próxima generación de cargas de trabajo.

A medida que las capacidades computacionales paralelas de las GPU siguen avanzando, las cargas de trabajo todavía se pueden limitar mediante tareas en serie ejecutadas en la CPU. Una CPU rápida y eficiente es un componente crítico del diseño del sistema para permitir la máxima aceleración de la carga de trabajo. La CPU NVIDIA Grace integra los núcleos Arm v9 de última generación para ofrecer un alto rendimiento en un diseño eficiente desde el punto de vista energético, lo que permite a los científicos y los investigadores hacer el trabajo de su vida más fácilmente.