CPU NVIDIA Grace

Diseñado específicamente para resolver los problemas de computación más grandes del mundo.

Aceleración de las Mayores Cargas de Trabajo de IA, HPC, Cloud e Hiperescala

Los modelos de IA están explotando en complejidad y tamaño a medida que mejoran la IA conversacional con cientos de miles de millones de parámetros, mejoran los sistemas de recomendación profundos que contienen decenas de terabytes de datos y permiten nuevos descubrimientos científicos. Estos modelos masivos están superando los límites de los sistemas actuales. Continuar ampliándolos para obtener precisión y utilidad requiere un acceso rápido a una gran cantidad de memoria y un acoplamiento estrecho de la CPU y la GPU.

Explora los primeros diseños de sistemas NVIDIA impulsados por CPU del mundo

Productos

Superchip NVIDIA Grace Hopper

NVIDIA Grace Hopper Superchip combina las arquitecturas Grace y Hopper mediante NVIDIA® NVLink-C2C para ofrecer un modelo de memoria coherente CPU+GPU para aplicaciones de IA acelerada y computación de alto rendimiento (HPC).

  • CPU+GPU diseñados para IA y HPC a gran escala
  • Nueva interfaz coherente de 900 gigabytes por segundo (GB/s), 7 veces más rápida que PCIe Gen 5
  • 30 veces más ancho de banda de memoria del sistema agregado a GPU en comparación con DGX A100
  • Ejecuta todas las pilas y plataformas de software de NVIDIA, incluidas NVIDIA HPC, NVIDIA AI y NVIDIA Omniverse
NVIDIA Grace Hopper Superchip
Superchip de CPU NVIDIA Grace

Superchip de CPU NVIDIA Grace

El Superchip de CPU NVIDIA Grace utiliza la tecnología NVLink-C2C para ofrecer 144 núcleos Arm® v9 y 1 TB/s de ancho de banda de memoria.

  • CPU de alto rendimiento para HPC y computación en el cloud
  • Diseño de súper chip con hasta 144 núcleos de CPU Arm v9
  • El primer LPDDR5x del mundo con memoria ECC, ancho de banda total de 1 TB/s
  • SPECrate®2017_int_base superior a 740 (estimado)
  • Interfaz coherente de 900 GB/s, 7 veces más rápida que PCIe Gen 5
  • 2 veces la densidad de empaquetado de las soluciones basadas en DIMM
  • 2 veces el rendimiento por vatio de la CPU líder en la actualidad
  • Ejecuta todas las pilas y plataformas de software de NVIDIA, incluidas NVIDIA RTX, HPC, NVIDIA AI y NVIDIA Omniverse

Diseño de Referencia NVIDIA Grace para Cargas de Trabajo Modernas del Data Center

Se anuncian proyectos de sistemas para digital twins, gráficos y games en el cloud, inteligencia artificial y computación de alto rendimiento.

CGX-Cloud Graphics & Gaming

CGX

Gráficos e Games en el Cloud

Superchip Grace CPU
A16
BlueField-3

OVX-Digital Twins & Omniverse

OVX

Digital Twins & Omniverse

Superchip Grace CPU
NVIDIA GPUs
BlueField-3

HGX-HPC

HGX

HPC

Superchip Grace CPU
BlueField-3
OEM Defined IO

HGX-AI Training, Inference & HPC

HGX

Entrenamiento de AI, Inferencia & HPC

Superchip Grace Hopper
BlueField-3
OEM Defined IO / 4th Gen NVLink

Diseñada para Resolver Problemas Complejos

La CPU NVIDIA Grace aprovecha la flexibilidad de la arquitectura Arm® para crear una arquitectura de CPU y servidor diseñada desde cero para la computación acelerada. Este diseño innovador ofrecerá un ancho de banda agregado hasta 30 veces mayor en comparación con los servidores más rápidos de la actualidad y un rendimiento hasta 10 veces mayor para aplicaciones que ejecutan terabytes de datos. NVIDIA Grace está diseñada para permitir a los científicos e investigadores entrenar los modelos más grandes del mundo para resolver los problemas más complejos.

Las Últimas Innovaciones Técnicas

NVIDIA NVLink-C2C de Cuarta Generación

Resolver los problemas más grandes de IA y HPC requiere memoria de alta capacidad y alto ancho de banda (HBM). NVIDIA NVLink-C2C de cuarta generación ofrece 900 GB/s de ancho de banda bidireccional entre la CPU NVIDIA Grace y las GPU NVIDIA. La conexión proporciona un espacio de direcciones de memoria unificado y coherente con la memoria caché que combina el sistema y la memoria GPU de HBM para simplificar la programación. Esta conexión coherente y de gran ancho de banda entre la CPU y las GPU es clave para acelerar los problemas de IA y HPC más complejos del futuro. 

Nuevo Subsistema de Memoria de Alto Ancho de Banda Usando LPDDR5x con ECC

El ancho de banda de la memoria es un factor crítico en el rendimiento del servidor y la memoria estándar de doble velocidad de datos (DDR) consume una parte significativa de la potencia total del socket. La CPU NVIDIA Grace es la primera CPU de servidor que aprovecha la memoria LPDDR5x con confiabilidad de clase de servidor a través de mecanismos como el código de corrección de errores (ECC) para satisfacer las demandas del data center, mientras ofrece el doble de ancho de banda de memoria y hasta 10 veces más eficiencia energética. en comparación con la memoria del servidor actual. La solución NVIDIA Grace LPDDR5x, junto con la memoria caché grande, de alto rendimiento y de último nivel, brinda el ancho de banda necesario para los modelos grandes al tiempo que reduce la energía del sistema para maximizar el rendimiento para la próxima generación de cargas de trabajo.

Núcleos Arm v9 de Próxima Generación

A medida que las capacidades de computación paralela de las GPU continúan avanzando, las cargas de trabajo aún pueden ser controladas por tareas en serie que se ejecutan en la CPU. Una CPU rápida y eficiente es un componente fundamental del diseño del sistema para permitir la máxima aceleración de la carga de trabajo. La CPU NVIDIA Grace integra núcleos Arm v9 de última generación para ofrecer un alto rendimiento en un diseño de bajo consumo, lo que facilita a los científicos e investigadores hacer el trabajo de su vida.

Socios

Asus
Fii logo
Gigabyte logo
Quanta-cloud
Supermicro
Wiwynn-logo

Los primeros diseños de sistemas NVIDIA con CPU del mundo