Neue Maßstäbe für die Leistung von KI-Workloads in verschiedenen Clouds.
Überblick
NVIDIA Exemplar Cloud zielt darauf ab, die Leistung pro Gesamtbetriebskosten für alle Cloud-Anbieter zu verbessern. Dazu kommen Hardware- und Software-Rezepte, Referenzen, Tools und Funktionen, die die Infrastrukturherausforderungen in Bezug auf wichtige Metriken lösen, einschließlich Workload-Leistung, Sicherheit und Zuverlässigkeit. Die Initiative nutzt NVIDIA DGX™ Cloud Benchmarking Rezepte, um standardisierte Benchmarks für die Leistung von KI-Workloads im gesamten Ökosystem von Cloud-Anbietern zu erstellen. Dies gewährleistet eine konsistente, hochwertige GPU-Leistung für Endbenutzer und trägt dazu bei, den Verbrauch zu fördern, die Marktfähigkeit zu verbessern und die Beziehungen von NVIDIA zu Cloud-Anbietern zu stärken.
Vorteile
Exemplar Cloud hilft Kunden bei der Einhaltung transparenter und standardisierter Benchmarking-Prozesse, sodass sie die Cloud-KI-Infrastruktur auf der Grundlage der realen Workload-Leistung und der Gesamtbetriebskosten vergleichen können.
Cloud-Anbieter können mit NVIDIA zusammenarbeiten, um die Workload-Leistung zu bewerten, Hardware-, Software- und Plattformprobleme zu debuggen und Verbesserungen zu implementieren.
Anbieter können Exemplar Cloud nutzen, um hochgradig abgestimmte und optimierte Cloud-Infrastruktur zu betreiben und sich durch überlegene KI-Workload-Leistung bei Training, Feinabstimmung und Inferenz von anderen unterscheiden.
Mit Exemplar Cloud können NVIDIA und die Anbieter-Community Fortschritte in den Bereichen Plattformkonsistenz, TCO-Optimierung und Kundenvertrauen vorantreiben, indem sie Leistungsergebnisse öffentlich machen und ein transparentes, vertrauenswürdiges Ökosystem entwickeln.
Partner
Exemplar Cloud-Anbieter haben mit NVIDIA zusammengearbeitet, um ihre Infrastruktur zu optimieren und sicherzustellen, dass die Workloads ihrer Kunden leistungsstark, sicher und zuverlässig sind. Dies basiert auf realen Workloads und Gesamtkosten-Metriken. Cloud-Anbieter, die den metrikbasierten Schwellenwert erreichen, können eine NVIDIA Exemplar Cloud werden.
Nächste Schritte
Nutzen Sie KI-Benchmarking-Erkenntnisse, indem Sie sich mit NVIDIA in Verbindung setzen, um Ihre Projekte zu optimieren und zu beschleunigen.
Entdecken Sie einsatzbereite Vorlagen zur Bewertung der Leistung bestimmter KI-Anwendungsfälle über Hardware- und Software-Kombinationen hinweg.
Erfahren Sie mehr über NVIDIA DGX Cloud Benchmarking, eine Tool-Suite zur Optimierung von KI-Workloads auf verschiedenen Plattformen.