CPU NVIDIA Grace

Diseñada específicamente para entrenar los modelos más grandes del mundo

CPU innovadora para las cargas de trabajo de IA y HPC más grandes

Los modelos de IA están aumentando en complejidad y tamaño a medida que mejoran la IA conversacional con cientos de miles de millones de parámetros, mejoran los sistemas de recomendación en profundidad con tablas de incrustación de decenas de terabytes de datos y permiten nuevos descubrimientos científicos. Estos modelos masivos están sobrepasando los límites de los sistemas actuales. Continuar escalándolos para la precisión y la utilidad requiere un acceso rápido a un gran grupo de memoria y un acoplamiento estrecho de la CPU y la GPU.

Ve al fundador y CEO de NVIDIA, Jensen Huang, en la indispensable sesión inaugural de la GTC en la que presenta la CPU NVIDIA Grace.

 

Diseñada para resolver problemas complejos

La CPU NVIDIA Grace aprovecha la flexibilidad de la arquitectura Arm® para crear una arquitectura de CPU y servidor diseñada desde cero para la computación acelerada. Este innovador diseño ofrecerá hasta 30 veces más ancho de banda agregado en comparación con los servidores más rápidos de hoy en día y un rendimiento hasta 10 veces superior para aplicaciones que ejecutan terabytes de datos. NVIDIA Grace está diseñada para permitir a científicos e investigadores entrenar los modelos más grandes del mundo para resolver los problemas más complejos.

Las últimas innovaciones técnicas

NVIDIA NVLink de 4.ª generación

Resolver los mayores problemas de IA y HPC requiere memoria de alta capacidad y elevado ancho de banda (HBM). La cuarta generación de NVIDIA® NVLink® ofrece 900 gigabytes por segundo (GB/s) de ancho de banda bidireccional entre la CPU NVIDIA Grace y las GPU NVIDIA. La conexión proporciona un espacio de direcciones de memoria unificado y coherente con caché que combina el sistema y la memoria GPU HBM para simplificar la programación. Esta conexión coherente de elevado ancho de banda entre la CPU y las GPU es clave para acelerar los problemas de IA y HPC más complejos del mañana.

Nuevo subsistema de memoria de elevado ancho de banda con LPDDR5x con ECC

El ancho de banda de memoria es un factor crítico en el rendimiento del servidor y la memoria estándar de doble velocidad de datos (DDR) consume una porción significativa de la potencia general del socket. La CPU NVIDIA Grace es la primera CPU del servidor en aprovechar la memoria LPDDR5x con confiabilidad de clase servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del centro de datos, al tiempo que ofrece el doble de ancho de banda de memoria y hasta 10 veces mejor eficiencia energética en comparación con la memoria del servidor actual. La solución NVIDIA Grace LPDDR5x junto con la caché grande, de alto rendimiento y de último nivel ofrece el ancho de banda necesario para los modelos grandes, al tiempo que reduce la potencia del sistema para maximizar el rendimiento de la próxima generación de cargas de trabajo.

Núcleos Arm Neoverse de última generación

A medida que las capacidades computacionales paralelas de las GPU continúan avanzando, las cargas de trabajo todavía se pueden limitar mediante tareas en serie ejecutadas en la CPU. Una CPU rápida y eficiente es un componente crítico del diseño del sistema para permitir la máxima aceleración de la carga de trabajo. La CPU NVIDIA Grace integra los núcleos Arm Neoverse™ de última generación para ofrecer un alto rendimiento en un diseño eficiente energéticamente, lo que facilita a los científicos e investigadores hacer el trabajo de su vida.

Mira al fundador y CEO de NVIDIA, Jensen Huang, en la imprescindible sesión inaugural de la GTC en la que presenta la CPU NVIDIA Grace, y lee el comunicado de prensa para obtener más información.