CPU NVIDIA Grace

Resolver los problemas más grandes de IA y HPC requiere memoria de alta capacidad y alto ancho de banda (HBM). NVIDIA NVLink-C2C de cuarta generación ofrece 900 GB/s de ancho de banda bidireccional entre la CPU NVIDIA Grace y las GPU NVIDIA. La conexión proporciona un espacio de direcciones de memoria unificado y coherente con la memoria caché que combina el sistema y la memoria GPU de HBM para simplificar la programación. Esta conexión coherente y de gran ancho de banda entre la CPU y las GPU es clave para acelerar los problemas de IA y HPC más complejos del futuro. 

El ancho de banda de la memoria es un factor crítico en el rendimiento del servidor y la memoria estándar de doble velocidad de datos (DDR) consume una parte significativa de la potencia total del socket. La CPU NVIDIA Grace es la primera CPU de servidor que aprovecha la memoria LPDDR5x con confiabilidad de clase de servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del data center, mientras ofrece el doble de ancho de banda de memoria y hasta 10 veces más eficiencia energética. en comparación con la memoria del servidor actual. La solución NVIDIA Grace LPDDR5x, junto con la memoria caché grande, de alto rendimiento y de último nivel, brinda el ancho de banda necesario para los modelos grandes al tiempo que reduce la energía del sistema para maximizar el rendimiento para la próxima generación de cargas de trabajo.

A medida que las capacidades de computación paralela de las GPU continúan avanzando, las cargas de trabajo aún pueden ser controladas por tareas en serie que se ejecutan en la CPU. Una CPU rápida y eficiente es un componente fundamental del diseño del sistema para permitir la máxima aceleración de la carga de trabajo. La CPU NVIDIA Grace integra núcleos Arm v9 de última generación para ofrecer un alto rendimiento en un diseño de bajo consumo, lo que facilita a los científicos e investigadores hacer el trabajo de su vida.