CPU NVIDIA Grace

Resolver los mayores problemas de IA y HPC requiere una memoria de alta capacidad y un elevado ancho de banda (HBM). La cuarta generación de NVIDIA NVLink-C2C ofrece 900 gigabytes por segundo (GB/s) de ancho de banda bidireccional entre la CPU NVIDIA Grace y las GPU de NVIDIA. La conexión ofrece un espacio de direcciones de memoria unificado y coherente con caché que combina la memoria del sistema y de la GPU HBM para simplificar la programabilidad. Esta conexión coherente de elevado ancho de banda entre la CPU y las GPU es clave para acelerar los problemas más complejos del mañana.

NVIDIA Grace es la primera CPU del servidor en aprovechar la memoria LPDDR5X con fiabilidad de clase servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del centro de datos, al tiempo que ofrece el doble de ancho de banda de memoria y hasta 10 veces mejor eficiencia energética en comparación con la memoria del servidor actual. La solución LPDDR5X, junto con la memoria caché de último nivel de gran rendimiento y alto rendimiento de NVIDIA Grace, ofrece el ancho de banda necesario para los modelos grandes, al tiempo que reduce la potencia del sistema para maximizar el rendimiento de la próxima generación de cargas de trabajo.

A medida que las capacidades computacionales paralelas de las GPU siguen avanzando, las cargas de trabajo todavía se pueden limitar mediante tareas en serie ejecutadas en la CPU. Una CPU rápida y eficiente es un componente crítico del diseño del sistema para permitir la máxima aceleración de la carga de trabajo. La CPU NVIDIA Grace integra los núcleos Arm Neoverse V2 con un tejido de coherencia escalable diseñado por NVIDIA para ofrecer un alto rendimiento en un diseño de bajo consumo, lo que facilita a los científicos e investigadores hacer el trabajo de su vida.

La IA generativa consume mucha memoria y recursos de computación. El superchip NVIDIA GB200 utiliza 380 GB de memoria HBM, lo que proporciona más de 4,5 veces el ancho de banda de memoria de la GPU NVIDIA H100 Tensor Core. La memoria de alto ancho de banda de Grace Blackwell se conecta con la memoria de la CPU a través de NVLink-C2C para proporcionar casi 860 GB de memoria de acceso rápido a la GPU, y ofrece la capacidad de memoria y el ancho de banda necesarios para manejar las cargas de trabajo de IA generativa y computación acelerada más complejas del mundo.