NVIDIA Grace-CPU

NVIDIA Grace ist die erste Server-CPU, die LPDDR5X-Speicher mit der Zuverlässigkeit der Serverklasse durch Mechanismen wie Fehlerkorrekturcode (ECC) nutzt, um den Anforderungen des Rechenzentrums gerecht zu werden, und dabei eine zweimal höhere Speicherbandbreite und eine bis zu zehnmal bessere Energieeffizienz im Vergleich zu aktuell verfügbaren Serverspeichern bietet. Die NVIDIA Grace-CPU integriert ARM Neoverse V2-Recheneinheiten in eine von NVIDIA entwickelte Scalable Coherency Fabric, um eine hohe Leistung in einem vorteilhaften Design zu liefern und so Wissenschaftlern und Forschern die Arbeit zu erleichtern.

Generative KI ist speicher- und rechenintensiv. Der NVIDIA Grace Hopper-Superchip GH200 verwendet 96 GB HBM3-Speicher und bietet damit die 2,5-fache GPU-Speicherbandbreite im Vergleich zur ursprünglichen A100. Der GH200 ist der weltweit erste Prozessor der nächsten Generation, der 141 GB der HBM3e-Speichertechnologie nutzt und im Vergleich zur ursprünglichen A100 eine dreimal höhere Bandbreite bietet. Der HBM-Speicher im NVIDIA Grace Hopper-Superchip wird  über NVLink-C2C mit dem CPU-Speicher kombiniert, um mehr als 600 GB Speicher mit Schnellzugriff für die GPU bereitzustellen. Dies liefert die Speicherkapazität und Bandbreite, die für die weltweit komplexesten Workloads im Bereich des beschleunigten Computings und der generativen KI erforderlich sind.