CPU NVIDIA Grace

Resolver los mayores problemas de IA y HPC requiere memoria de alta capacidad y elevado ancho de banda (HBM). La cuarta generación de NVIDIA® NVLink® ofrece 900 gigabytes por segundo (GB/s) de ancho de banda bidireccional entre la CPU NVIDIA Grace y las GPU NVIDIA. La conexión proporciona un espacio de direcciones de memoria unificado y coherente con caché que combina el sistema y la memoria GPU HBM para simplificar la programación. Esta conexión coherente de elevado ancho de banda entre la CPU y las GPU es clave para acelerar los problemas de IA y HPC más complejos del mañana.

El ancho de banda de memoria es un factor crítico en el rendimiento del servidor y la memoria estándar de doble velocidad de datos (DDR) consume una porción significativa de la potencia general del socket. La CPU NVIDIA Grace es la primera CPU del servidor en aprovechar la memoria LPDDR5x con confiabilidad de clase servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del centro de datos, al tiempo que ofrece el doble de ancho de banda de memoria y hasta 10 veces mejor eficiencia energética en comparación con la memoria del servidor actual. La solución NVIDIA Grace LPDDR5x junto con la caché grande, de alto rendimiento y de último nivel ofrece el ancho de banda necesario para los modelos grandes, al tiempo que reduce la potencia del sistema para maximizar el rendimiento de la próxima generación de cargas de trabajo.

A medida que las capacidades computacionales paralelas de las GPU continúan avanzando, las cargas de trabajo todavía se pueden limitar mediante tareas en serie ejecutadas en la CPU. Una CPU rápida y eficiente es un componente crítico del diseño del sistema para permitir la máxima aceleración de la carga de trabajo. La CPU NVIDIA Grace integra los núcleos Arm Neoverse™ de última generación para ofrecer un alto rendimiento en un diseño eficiente energéticamente, lo que facilita a los científicos e investigadores hacer el trabajo de su vida.