NVIDIA HGX-2

Beschleunigt durch NVIDIA Tesla V100-Grafikprozessoren und NVSwitch

Leistungsstärkste beschleunigte Server-Plattform der Welt für Deep Learning, maschinelles und HPC

Die NVIDIA HGX-2 ist die leistungsstärkste beschleunigte Scale-up-Server-Plattform der Welt. Auf Basis von Mixed-Precision-Computing beschleunigt sie jeden Workload, um diese gewaltigen Herausforderungen zu meistern. Mit der HGX-2-Plattform wurden in MLPerf, dem ersten branchenweiten KI-Benchmark, Rekorde erzielt: Sie stellte die höchste Single-Node-Leistung bereit und wurde als leistungsstärkste, vielseitigste und skalierbarste Computing-Plattform der Welt bewertet.

HGX-2-Datenblatt
Laden Sie das Datenblatt herunter, um sich über die modernste Technologie der NVIDIA HGX-2 zu informieren
HGX-2-Infografik
Mehr Infos über diese leistungsstarke Multipräzisions-Rechenplattform

Unterstützung für den weltweit größten Grafikprozessor

Dank der Beschleunigung durch 16 NVIDIA® Tesla® V100-Grafikprozessoren und mithilfe von NVIDIA NVSwitch™ bietet die HGX-2 eine beispiellose Rechenleistung, Bandbreite und Speichertopologie, um umfangreiche Modelle schneller zu trainieren, Datensätze zu analysieren und Simulationen schneller und effizienter zu berechnen. Die 16 Tesla V100-Grafikprozessoren agieren als einheitlicher 2-PetaFLOPS-Beschleuniger mit einem Grafikprozessor-Gesamtspeicher von einem halben Terabyte (TB), sodass damit die rechenintensivsten Aufgaben erledigt werden können und der„ weltweit größte Grafikprozessor“ bereitgestellt werden kann.

Ermöglicht den weltweit größten Grafikprozessor

AI Training: HGX-2 Replaces 300 CPU-Only Server Nodes

Workload: ResNet50, 90 epochs to solution  | CPU Server: Dual-Socket Intel Xeon Gold 6140
|  Dataset: ImageNet2012  |

KI der nächsten Generation beschleunigen

Die Komplexität der KI-Modelle hat enorm zugenommen. Sie erfordern einen großen Speicher, mehrere Grafikprozessoren und eine extrem schnelle Verbindung zwischen den Grafikprozessoren, um eine ordnungsgemäße Funktion zu gewährleisten. Mit NVSwitch, die alle Grafikprozessoren und den einheitlichen Speicher verbinden, verfügt die HGX-2 über die notwendige Leistungsfähigkeit zur Unterstützung dieser neuen Modelle, um ein schnelleres Training der modernen KI zu ermöglichen. Eine einzelne HGX-2 ersetzt 300 Server mit CPU, sodass erheblich weniger Kosten anfallen und auch der Platz- und Energiebedarf im Rechenzentrum reduziert wird.

Machine Learning: HGX-2 544X Speedup Compared to CPU-Only Server Nodes

GPU Measurements Completed on DGX-2 | CPU: 20 CPU cluster- comparison is prorated to 1 CPU (61 GB of memory, 8 vCPUs, 64-bit platform), Apache Spark | US Mortgage Data Fannie Mae and Freddie Mac 2006-2017 | 146M mortgages | Benchmark 200GB CSV dataset | Data preparation includes joins, variable transformations

Maschinelles KI-Lernen der nächsten Generation beschleunigen

Modelle des maschinellen KI-Lernens machen das Laden, Umwandeln und Verarbeiten sehr großer Datensätze notwendig, um Erkenntnisse zu erlangen. Mit 0,5 TB vereinheitlichtem Speicher, auf den auf einer Bandbreite von 16 TB/s zugegriffen werden kann, und einer multilateralen Grafikprozessorkommunikation mit NVSwitch verfügt HGX-2 über die Leistung, Berechnungen riesiger Datensätze zu laden und durchzuführen, um schnell handlungsorientierte Erkenntnisse zu erlangen. Mit der RAPIDS Open-Source-Software für maschinelles Lernen ersetzt eine einzige HGX-2 rund 544 CPU-basierte Server und führt zu einer erheblichen Kosten- und Platzersparnis.

HPC: HGX-2 Replaces up to 156 CPU-Only Server Nodes

Application(Dataset): SPECFEM3D(four material simple model), MILC(APEX Medium), and Chroma(szscl21_24_128) |
CPU Server: Dual-Socket Intel Xeon Gold 6140

HPC-Superknoten mit Höchstleistung

HPC-Anwendungen erfordern leistungsfähige Serverknoten mit ausreichender Rechenleistung, um eine hohe Anzahl von Berechnungen pro Sekunde durchzuführen. Durch die enorme Erhöhung der Rechendichte jedes Knotens wird die Anzahl der erforderlichen Server erheblich reduziert. Dies führt zu großen Kosteneinsparungen und senkt den Platz- und Energiebedarf in Rechenzentren. Für HPC-Simulationen und die damit verbundene hochdimensionale Matrix-Multiplikation muss ein Prozessor Daten aus vielen Umgebungen abrufen, um die Berechnung zu vereinfachen. Daher ist die Verbindung der Grafikprozessoren durch NVSwitch ideal. Ein einzelner HGX-2-Server ersetzt 60 reine CPU-Server.

NVSwitch für Computing mit voller Bandbreite

Dank NVSwitch kann jeder Grafikprozessor mit einem anderen Grafikprozessor mit voller Bandbreite von 2,4 TB/Sek. kommunizieren, um die größten KI- und HPC-Probleme zu beheben. Jeder Grafikprozessor hat vollen Zugriff auf 0,5 TB des HBM2-Gesamtspeichers und ist in der Lage, die umfangreichsten Datensätze zu verarbeiten. Da durch NVSwitch ein einheitlicher Serverknoten bereitgestellt wird, können komplexe KI- und HPC-Anwendungen erheblich beschleunigt werden.

NVSwitch für Computing mit voller Bandbreite

Im NVSwitch-Topologiediagramm wird der Einfachheit halber die Verbindung von zwei Grafikprozessoren dargestellt. Alle 16 Grafikprozessoren sind auf dieselbe Weise mit NVSwitch verbunden.

Technische Daten

HGX-1 HGX-2
Leistung 1 PetaFLOPS Tensor-Operationen
125 TeraFLOPS Single-Precision-Leistung
62 TeraFLOPS Double-Precision-Leistung		 2 PetaFLOPS Tensor-Operationen
250 TeraFLOPS Single-Precision-Leistung
125 TeraFLOPS Double-Precision-Leistung
Grafikprozessoren 8 × NVIDIA Tesla V100 16 × NVIDIA Tesla V100
Grafikprozessorspeicher 256 GB (gesamt)
7,2 TB/s Bandbreite		 512 GB (gesamt)
16 TB/s Bandbreite
NVIDIA CUDA® Recheneinheiten 40,960 81,920
NVIDIA Tensor-Recheneinheiten 5,120 10,240
Kommunikationskanal Hybrid-Cube-Mesh mit NVLink 300 GB/s Bisektionsbandbreite NVSwitch mit NVLink 2.4 TB/s Bisektionsbandbreite

HGX-1-Referenzarchitektur

Beschleunigt durch NVIDIA Tesla-Grafikprozessoren und NVLink

NVIDIA HGX-1 ist eine Referenzarchitektur, die das Design der Rechenzentren standardisiert und die KI in der Cloud beschleunigt. Basierend auf acht Tesla SXM2 V100-Boards, einer Hybrid-Cube-Mesh-Topologie für Skalierbarkeit und einer Rechenleistung von 1 PetaFLOPS verfügt diese Architektur über ein modulares Design, das sich nahtlos in Hyperscale-Rechenzentren integrieren lässt und einen schnellen, einfachen Weg zu KI ermöglicht.

Mehr Leistung für das Ökosystem des Rechenzentrums

NVIDIA arbeitet mit weltweit führenden Herstellern zusammen, um das KI-Cloud-Computing schnell voranzutreiben. NVIDIA stellt HGX-2-Grafikprozessor-Baseboards, Design-Richtlinien und frühen Zugriff auf Grafikprozessor-Computing-Technologien für Partner bereit. Diese lassen sich dann in die Server integrieren, um enorme Leistungsvorteile für die Rechenzentrum-Ökosysteme zu erzielen.

Mehr Leistung für das Ökosystem des Rechenzentrums

HIER FINDEN SIE DIE VOLLSTÄNDIGE LISTE DER NVIDIA TESLA-GEEIGNETEN SERVER.

Registrieren und Neuigkeiten rund ums Rechenzentrum erhalten

Sie erhalten alle aktuellen Neuigkeiten zu High-Performance-Computing, Deep Learning und künstlicher Intelligenz.

Jetzt abonnieren
Produkte
Technologien
Ressourcen