Das universelle System für die KI-Infrastruktur
NVIDIA DGX™ A100 ist das universelle System für alle KI-Workloads und bietet beispiellose Rechendichte, Leistung und Flexibilität im weltweit ersten 5 petaFLOPS KI-System. NVIDIA DGX A100 verfügt über den weltweit fortschrittlichsten Beschleuniger, den NVIDIA A100 Tensor Core-Grafikprozessor, mit dem Unternehmen Schulungen, Inferenz und Analysen in einer einheitlichen, einfach zu implementierenden KI-Infrastruktur mit direktem Kontakt zu NVIDIA KI-Experten konsolidieren können.
NVIDIA DGX A100 ist das universelle System für die gesamte KI-Infrastruktur – von der Analyse über die Schulung bis hin zur Inferenz. Es setzt neue Maßstäbe für Rechendichte, indem es 5 petaFLOPS für KI-Leistung in einem 6U-Formfaktor verbindet und so die vorhandenen Infrastruktursilos durch eine Plattform für alle KI-Workloads ersetzt.
NVIDIA DGXperts ist ein globales Team mit über 14.000 KI-Profis, die sich im Laufe der letzten zehn Jahre eine Fülle an Erfahrung angeeignet haben, um Ihnen dabei zu helfen, den Wert Ihrer DGX-Investition zu maximieren.
NVIDIA DGX A100 ist das weltweit erste System mit dem NVIDIA A100 Tensor Core-Grafikprozessor. Mit den acht integrierten A100-Grafikprozessoren bietet das System eine bisher unerreichte Beschleunigung und ist vollständig für NVIDIA CUDA-X™-Software und die End-to-End-Zusatzlösung von NVIDIA für Rechenzentren optimiert
NVIDIA DGX A100 verfügt über integriertes Mellanox-Netzwerk mit 225 Gigabyte pro Sekunde (GB/s) der maximalen bidirektionalen Bandbreite. Dies ist eine der vielen Funktionen, die DGX A100 zu einem Grundbaustein für große KI-Cluster wie NVIDIA DGX SuperPOD™ machen – dem Unternehmenskonzept für skalierbare KI-Infrastrukturen.
Reservieren Sie jetzt Ihr NVIDIA DGX A100-System.
PageRank
Schnellere Analysen für tiefere Einblicke in die KI-Entwicklung
3,000X CPU Servers vs. 4X DGX A100. Published Common Crawl Data Set: 128B Edges, 2.6TB Graph.
NLP: BERT-Large
Schnelleres Training ermöglicht fortschrittlichste KI-Modelle
BERT Pre-Training Throughput using PyTorch including (2/3)Phase 1 and (1/3)Phase 2. Phase 1 Seq Len = 128, Phase 2 Seq Len = 512. V100: DGX-1 with 8X V100 using FP32 precision. DGX A100: DGX A100 with 8X A100 using TF32 precision.
Peak Compute
Schnellere Inferenz erhöht den ROI durch maximierte Systemauslastung
CPU Server: 2X Intel Platinum 8280 using INT8. DGX A100: DGX A100 with 8X A100 using INT8 with Structural Sparsity.
1 (1) 8 NVIDIA A100-Grafikprozessoren mit 320 GB Gesamt-Grafikprozessorspeicher 12 NVLinks pro Grafikprozessor, 600 GB/s Bandbreite zwischen Grafikprozessoren
2 6 NVSwitches der zweiten Generation 4,8 TB/s mit bidirektionaler Bandbreite, doppelt so viel wie die Vorgängergeneration
3 9 Mellanox ConnectX-6 VPI HDR InfiniBand/200 GB Ethernet 225 GB/s maximale bidirektionalen Bandbreite
4 Zwei AMD-CPUs mit 64 und 1 TB Systemspeicher 2,7 x mehr Recheneinheiten für die intensivsten KI-Aufträge
5 15 TB Gen4 NVME-SSDs 25,6 GB/s maximale Bandbreite, 2 x schneller als Gen3-NVME-SSDs
Der NVIDIA A100 Tensor Core-Grafikprozessor bietet eine bisher unerreichte Beschleunigung für KI, Datenanalysen und High-Performance Computing (HPC), um die schwierigsten Computing-Herausforderungen der Welt zu bewältigen. Mit den NVIDIA Tensor Cores-Recheneinheiten der dritten Generation, die eine enorme Leistungssteigerung bieten, kann der A100-Grafikprozessor effizient bis zu Tausenden skaliert werden oder mit dem Mehr-Instanzen-Grafikprozessor in sieben kleinere, dedizierte Instanzen aufgeteilt werden, um Workloads aller Größen zu beschleunigen.
Mit MIG können die acht A100-Grafikprozessoren in DGX A100 in bis zu 56 Grafikprozessor-Instanzen konfiguriert werden, die jeweils vollständig isoliert ausgeführt werden und über eigene Speicher-, Cache- und Recheneinheiten mit hoher Bandbreite verfügen. Dadurch können Administratoren Grafikprozessoren mit der gleichen Größe wie die garantierte Quality of Service (QoS) für mehrere Workloads erhalten.
Mit der dritten Generation von NVIDIA® NVLink™ in DGX A100 wird die direkte Bandbreite zwischen Grafikprozessoren auf 600 Gigabyte pro Sekunde (GB/s) verdoppelt und ist somit fast 10-mal höher als bei PCIe Gen4. DGX A100 beinhaltet auch NVIDIA NVSwitch™ der nächsten Generation, das 2 x Mal schneller als die Vorgängergeneration ist.
DGX A100 verfügt über die neuesten Mellanox ConnectX-6 VPI HDR InfiniBand-/Ethernet-Adapter, die jeweils mit 200 Gigabit pro Sekunde (GB/s) ausgeführt werden, um ein Hochgeschwindigkeits-Fabric für umfangreiche KI-Workloads zu erzeugen.
DGX A100 enthält eine getestete und optimierte Zusatzsoftware, einschließlich eines für KI optimierten Basisbetriebssystems, der erforderlichen Systemsoftware sowie durch den Grafikprozessor beschleunigter Anwendungen, vorab trainierter Modelle und mehr von NGC™.
DGX A100 bietet für KI-Bereitstellungen sehr robuste Sicherheit mit einem mehrschichtigen Ansatz, bei dem alle wichtigen Hardware- und Softwarekomponenten gesichert werden. Dazu zählen auch selbstverschlüsselnde Laufwerke, signierte Softwarecontainer, sichere Verwaltung und Überwachung und vieles mehr.
Erfahren Sie mehr über Unterstützung der Enterprise-Klasse für NVIDIA DGX-Systeme.
KI-Infrastruktur der Führungsklasse
Datenschutz