Magnum IO

Stack zur IO-Optimierung von Netzwerken mit mehreren GPUs und Knoten sowie von Speichern

Anforderungen an die Bandbreite rechenintensiver Workloads erfüllen

GPUs bieten die erforderliche Leistung für rechenintensive Workloads, doch der Datenverbrauch erhöht den Bedarf an Input/Output(IO)-Bandbreite. NVIDIA Magnum IO ist das API-Set von NVIDIA-Set, das Computing, Netzwerke, Dateisysteme und Speicher integriert, um die IO-Leistung für beschleunigte Systeme mit mehreren GPUs und mehreren Knoten zu maximieren. Es bietet IT-Schnittstellen mit CUDA-X-Bibliotheken zur Beschleunigung von IO für eine große Bandbreite an Workloads, von KI bis hin zur Visualisierung.

GPU-optimierte Netzwerk- und Speicher-IO-Leistung

Magnum IO integriert Infrastrukturelemente, um die Speicher- und Netzwerk-I/O-Leistung sowie die Funktionalität zu maximieren. Die Vorteile:

Optimierte IO-Leistung: Die CPU wird umgangen, um direkten IO zwischen GPU-Speicher und Netzwerkspeicher zu ermöglichen.

Systemausgewogenheit und -auslastung: Dadurch werden CPU-Konflikte abgemildert, um ein ausgewogeneres GPU-beschleunigtes System zu schaffen und maximale IO-Bandbreite mit bis zu 10-mal weniger CPU-Kernen zu bieten.

Nahtlose Integration: Dadurch wird eine optimierte Implementierung für aktuelle und zukünftige Plattformen bereitgestellt, unabhängig davon, ob die Datenübertragungen latenzempfindlich oder bandbreitenempfindlich sind.

IO-Optimierungsstack

Magnum IO umfasst innovative IO-Optimierungstechnologien wie NCCL, NVIDIA® GPUDirect RDMA und NVIDIA Fabric Manager. GPUDirect-Speicher ist ein wesentlicher Bestandteil des Stacks. Es öffnet einen direkten Datenpfad zwischen GPU-Speicher und Computerspeicher, wodurch die CPU insgesamt umgangen wird. Dieser direkte Pfad kann die Bandbreite erhöhen, die Latenz sowie die Auslastung der CPU und der GPU verringern. Magnum IO unterstützt Sie bei der Lösung der IO-Problematik und kann Ihnen dabei helfen, ein ausgewogenes System zu erhalten.

IO-Optimierungsstack

Erfahren Sie mehr über die Technologien, die hinter Magnum IO stecken.