NVIDIA Virtual Compute Server

Führen Sie die rechenintensivsten Server-Workloads mit virtuellen Grafikprozessoren durch

Rechenleistung für KI, Deep Learning und Datenwissenschaft virtualisieren

Mit dem Virtual Compute Server von NVIDIA (vCS) können Rechenzentren die Servervirtualisierung mit den aktuellen NVIDIA-Grafikprozessoren für Rechenzentren beschleunigen, etwa dem NVIDIA A100 Tensor Core-Grafikprozessor¹, sodass die rechenintensivsten Workloads, wie z. B. künstliche Intelligenz, Deep Learning und Datenwissenschaft, in einer virtuellen Maschine (VM) ausgeführt werden können.

Merkmale

GPU-Sharing

GPU-Sharing

GPU-Sharing (fraktioniert) ist nur mit der NVIDIA vGPU-Technologie möglich. Sie ermöglicht es mehreren VMs, einen Grafikprozessor gemeinsam zu nutzen und die Auslastung für leichtere Workloads zu maximieren, für die eine Grafikprozessorbeschleunigung erforderlich ist.

GPU-Aggregation

GPU-Aggregation

Bei der GPU-Aggregation kann eine VM auf mehrere Grafikprozessoren zugreifen, was häufig für rechenintensive Workloads erforderlich ist. vCS unterstützt sowohl Multi-vGPU als auch Peer-to-Peer-Computing. Bei Multi-vGPU sind die Grafikprozessoren nicht direkt verbunden. Bei Peer-to-Peer sind sie zum Erzielen einer höheren Bandbreite durch NVLink verbunden.

Verwaltung und Überwachung

Verwaltung und Überwachung

vCS unterstützt die Überwachung auf App-, Gast- und Hostebene. Darüber hinaus bieten proaktive Verwaltungsfunktionen die Möglichkeit, eine Live-Migration durchzuführen, Schwellenwerte zu unterbrechen und wieder aufzunehmen und zu erstellen. Diese Schwellenwerte zeigen die Verbrauchstrends, die sich auf die Nutzererfahrung auswirken. Das alles ist in der vGPU Management SDK möglich.

NGC

NGC

NVIDIA GPU Cloud (NGC) ist ein Hub für grafikprozessoroptimierte Software, die Workflows für Deep Learning, maschinelles Lernen und HPC vereinfacht und jetzt virtualisierte Umgebungen mit NVIDIA vCS unterstützt.

Peer-to-Peer-Computing

Peer-to-Peer-Computing

NVIDIA® NVLink ist eine schnelle, direkte GPU-zu-GPU-Verbindung, die eine höhere Bandbreite, mehr Verbindungen und eine verbesserte Skalierbarkeit für Systemkonfigurationen mit mehreren Grafikprozessoren bietet – jetzt virtuell unterstützt mit NVIDIA-Technologie für virtuelle Grafikprozessoren (vGPU).

ECC und Page Retirement

ECC und Page Retirement

Der Fehlerkorrekturcode (ECC) und Page Retirement bieten eine höhere Zuverlässigkeit für Rechenanwendungen, die für Datenbeschädigungen anfällig sind. Sie sind besonders wichtig in umfangreichen Cluster-Computing-Umgebungen, in denen Grafikprozessoren sehr umfangreiche Datensätze verarbeiten und/oder Anwendungen über einen längeren Zeitraum ausführen.

Multi-Instance-Grafikprozessor (MIG)

Multi-Instance-Grafikprozessor (MIG)

Multi-Instance-Grafikprozessoren (MIG) stellen eine revolutionäre Technologie dar, mit der die Möglichkeiten des Rechenzentrums erweitert werden können, sodass jeder NVIDIA A100 Tensor Core-Grafikprozessor in bis zu sieben vollständig isolierte Instanzen aufgeteilt und auf Hardware-Level mit eigenem Speicher, Cache und Rechenkernen mit hoher Bandbreite gesichert werden kann. Mit der vCS-Software kann eine VM auf jeder dieser MIG-Instanzen ausgeführt werden, sodass Organisationen die Vorteile von Management, Überwachung und betrieblichen Vorteilen der Hypervisor-basierten Servervirtualisierung nutzen können.

GPUDirect

GPUDirect

GPUDirect® Mit RDMA (Remote Direct Speicher Access) können Netzwerkgeräte direkt auf den Grafikprozessorspeicher zugreifen, wobei der Hostspeicher der CPU umgangen, die Kommunikationslatenz von Grafikprozessoren verringert und die CPU vollständig abgeladen wurde.

Grafikprozessorempfehlungen

  NVIDIA A100¹ NVIDIA V100S NVIDIA A401 NVIDIA RTX 8000 NVIDIA RTX 6000 NVIDIA T4
Arbeitsspeicher 40 GB HBM2 32 GB HBM2 48 GB GDDR6 48 GB GDDR6 24 GB GDDR6 16 GB GDDR6
Spitzen-FP 32 19,5 TFLOPS 16,4 TFLOPS 38,1 TFLOPS 14,9 TFLOPS 14,9 TFLOPS 8,1 TFLOPS
Spitzen-FP 64 9,7 TFLOPS 8,2 TFLOPS - - - -
NVLink: Anzahl der Grafikprozessoren pro VM Bis zu 8 Bis zu 8 2 2 2 -
ECC und Page Retirement
Multi-vGPU pro VM1 Bis zu 16 Bis zu 16 Bis zu 16 Bis zu 16 Bis zu 16 Bis zu 16

Partner bei der Virtualisierung

Häufig gestellte Fragen

Weitere Informationen zur NVIDIA-Software für virtuelle Grafikprozessoren

Produktversionshinweise und unterstützte Softwareprodukte von Drittanbietern anzeigen