NVIDIA Grace-CPU

Die Lösung der größten KI- und HPC-Probleme erfordert sowohl Speicher mit hoher Kapazität als auch mit hoher Bandbreite (HBM). Die vierte Generation des NVIDIA NVLink-C2C bietet eine bidirektionale Bandbreite von 900 GB/s zwischen der NVIDIA Grace-CPU und den NVIDIA-GPUs. Die Verbindung stellt einen einheitlichen, cachekohärenten Speicheradressraum bereit, der System- und HBM-GPU-Speicher für eine vereinfachte Programmierbarkeit kombiniert. Diese nahtlose Verbindung mit hoher Bandbreite zwischen CPU und GPUs ist der Schlüssel zur Beschleunigung der komplexesten KI- und HPC-Probleme der Zukunft.

Die Speicherbandbreite ist ein entscheidender Faktor für die Serverleistung, und der Standard-DDR-Speicher mit doppelter Datenrate (DDR) verbraucht einen wesentlichen Teil der gesamten Stromversorgung. Die NVIDIA Grace-CPU ist die erste Server-CPU, die LPDDR5x-Speicher mit der Zuverlässigkeit der Serverklasse durch Mechanismen wie Fehlerkorrekturcode (ECC) nutzt, um den Anforderungen des Rechenzentrums gerecht zu werden, und dabei eine zweimal höhere Speicherbandbreite und eine bis zu zehnmal bessere Energieeffizienz im Vergleich zu aktuell verfügbaren Serverspeichern bietet. Die NVIDIA Grace LPDDR5x-Lösung in Verbindung mit dem umfangreichen und leistungsstarken Last-Level-Cache liefert die erforderliche Bandbreite für groß dimensionierte Modelle und reduziert gleichzeitig den Systemstrom, um die Leistung für die nächste Generation von Workloads zu optimieren.

Auch wenn die parallelen Rechenkapazitäten von GPUs immer weiter fortschreiten, können Workloads nach wie vor durch serielle Aufgaben, die auf der CPU ausgeführt werden, eingeschränkt werden. Eine schnelle und effiziente CPU ist eine entscheidende Komponente des Systemaufbaus, um eine optimale Beschleunigung der Workloads zu ermöglichen. Die NVIDIA Grace-CPU integriert Arm v9-Kerne der nächsten Generation, um eine hohe Leistung in einem stromsparenden System zu erzielen und Wissenschaftlern und Forschern die Arbeit zu erleichtern.