NVIDIA Enterprise-Referenzarchitekturen.

Enterprise-Referenzarchitektur

Skalierbare KI-Fabriken aufbauen

Verwandeln Sie mit NVIDIA Enterprise-Referenzarchitekturen Ihr Rechenzentrum in eine leistungsstarke KI-Fabrik.

Überblick

Die Bausteine für KI-Erfolg

NVIDIA Enterprise-Referenzarchitekturen ermöglichen Unternehmen die Konzeption, Bereitstellung und Skalierung von High-Performance KI-Fabriken mit validierter, reproduzierbarer Infrastruktur. Diese Blueprints kombinieren zertifizierte Tools für Computing, horizontale Hochgeschwindigkeitsnetzwerke und Beobachtbarkeit, die eine skalierbare Leistung sicherstellen – vom Cluster mit vier Knoten bis zu Umgebungen im Enterprise-Maßstab.

Rechenzentren in intelligente Fabriken verwandeln

Verwandeln Sie mit NVIDIA-zertifizierter Rechenleistung, Netzwerktechnik und partnerzertifiziertem Speicher Ihr klassisches Rechenzentrum in eine KI-Fabrik. Entwickelt für die schnelle Bereitstellung und reproduzierbare Leistung.

Bewährtes Design/Validierte Leistung

Enterprise-RAs basieren auf realen Bereitstellungen und praktisch erprobten Konfigurationen. Sie vereinfachen die Planung und maximieren den ROI für eine skalierbare KI-Infrastruktur

NVIDIA Enterprise-Referenzarchitekturen

Ihr Leitfaden für die gesamte Produktfamilie

Ab sofort sind umfassende Anleitungen für das Einrichten von Clustern im Rechenzentrum verfügbar.

Infrastruktur

NVIDIA Enterprise-Referenzarchitekturen basieren auf validierten Hardwarekonfigurationen, einschließlich Mustern für CPU-GPU-Netzwerkknoten, Verkabelungsdiagrammen und Infrastrukturdetails.

*Achten Sie bei Partnerdesigns, die auf NVIDIA Enterprise-RAs basieren, auf den Zusatz „Infrastructure“

Netzwerklogik

Die Anleitung für die Netzwerkkonfiguration und die logische Architektur für Enterprise-RAs liefert Anweisungen für die Verwaltung und Bereitstellung von Knoten mittels VLAN-Design und Netzwerksimulation auf NVIDIA Air.

*Achten Sie bei Partnerdesigns, die auf NVIDIA Enterprise-RAs basieren, auf den Zusatz „Network Logic“

Software

Unser Software-Referenz-Stack für Enterprise-RAs beschreibt den Prozess der Verwaltung, Bereitstellung und Größenbestimmung von Software-Stacks für Enterprise-RAs. Aktuelle Releases konzentrieren sich auf Vanilla Kubernetes, unter Verwendung von BCM für die Bereitstellung von Cluster, NVIDIA AI Enterprise und Vanilla Kubernetes mit Run:ai.

*Achten Sie bei Partnerdesigns, die auf NVIDIA Enterprise-RAs basieren, auf den Zusatz „Software“

Beobachtbarkeit

Die Beobachtbarkeitsanleitung für Enterprise-RAs nutzt Open-Source-Tools wie Prometheus und Grafana, um die Leistung der GPU und des Netzwerks im gesamten Cluster zu überwachen. Dashboards bieten Echtzeitmesswerte für den Systemzustand und die Workload-Effizienz.

Bereitstellung

Die Bereitstellungsanleitung für Enterprise-RAs besteht aus einer Sammlung von Best Practices für die Infrastruktur, die unser Team im Zuge der Einführung, der Bereitstellung, dem Testen und der Validierung der internen Cluster entwickelt hat, auf denen wir unser Programm entwickelt haben.

Speicher

Das Programm für NVIDIA-zertifizierte Speichersysteme ist eine ergänzende Leistung ausgewählter Partner, die Anleitungen für Speicherlösungen erstellt haben, die für die Integration in Enterprise-RAs konzipiert sind.

Weitere Informationen zu diesem einzigartigen Programm finden Sie hier.

Anwendungsfälle

Für sämtliche Anwendungsfälle konzipiert

Beschleunigen Sie Workloads für agentenbasierte KI, physische KI sowie HPC- und KI-Simulationen mit bewährten Enterprise-Referenzarchitekturen.

Universelle Enterprise-Beschleunigung

Beschleunigen Sie auf einer einzigen flexiblen Plattform eine große Bandbreite von Enterprise-Workloads – industrielle und Wahrnehmungs-KI, HPC, Datenanalyse, visuelles Computing, generative und agentenbasierte KI. Ideal für Unternehmen, die ihre Infrastruktur modernisieren und die Leistung für geschäftskritische Aufgaben steigern möchten.

Bei NVIDIA RTX PRO Server-Bereitstellungen konzentrieren sich die verfügbaren Designpunkte auf Konfigurationen mit 16 und 32 Knoten – ideal für mittelgroße generative KI- und Visualisierungs-Workloads – und sorgen für den Ausgleich zwischen Leistung, Skalierbarkeit und Bereitstellungseffizienz. Zusammen mit der NVIDIA Spectrum-X™-Networking-Plattform bietet diese Konfiguration eine optimierte Verbindungsleistung, die speziell für anspruchsvolle KI-Anwendungen entwickelt wurde.

KI-optimierte Leistung

Diese leistungsstarke Enterprise-RA wurde speziell für KI-Training mit mehreren Knoten und Inferenz im großen Maßstab entwickelt und nutzt NVIDIA-zertifizierte HGX 8-GPU-Systeme mit NVIDIA Hopper- oder Blackwell-GPUs. Die Systeme skalieren von einer Einheit mit 4 Knoten (32 GPUs) bis zu 128 Knoten (1024 GPUs), mit Potenzial für noch größere Cluster, abhängig vom Kundenbedarf.

Die verfügbaren Designpunkte konzentrieren sich auf Konfigurationen mit 32, 64 und 128 Knoten auf Basis von NVIDIA Spectrum-X-Netzwerken und eines flexiblen, Rail-optimierten Designs, das sich problemlos an unterschiedliche Rack-Layouts anpasst.

Exascale-Leistung

Training und Bereitstellung der größten Basis- und Sprachmodelle mit Exascale-Rechenleistung in einem einzigen Rack. Für massiven Modelldurchsatz, Multi-User-Inferenz und Echtzeit-Reasoning im großen Umfang ausgelegt, um die Zukunft der durch KI angetriebenen Innovation einzuläuten.

Die verfügbaren Designpunkte von NVIDIA GB200 NVL72 konzentrieren sich auf Konfigurationen mit 4 und 8 Racks. Die Architektur basiert auf einem flexiblen, Rail-optimierten Netzwerk und unterstützt unterschiedliche Rack-Layouts und Systemkonfigurationen.

Vorteile

Der strategische Wert von Enterprise-RAs

Erschaffen Sie eine skalierbare, leistungsstarke KI-Infrastruktur mit bewährten, partnerfähigen Konfigurationen.

Spitzenleistung für KI-Workloads

Diese Architekturen wurden entwickelt, um den intensiven Anforderungen bei Training, Feinabstimmung und Inferenz gerecht zu werden. Sie gewährleisten die volle GPU-Auslastung und Leistungskonsistenz über Cluster mit mehreren Knoten hinweg.

Flexible Skalierung, vereinfachte Operationen

Erweitern Sie Ihre Infrastruktur ganz einfach mit für bis zu 128 Knoten optimierten Referenzdesigns, die speziell für Full-Stack-Lösungen wie das validierte Design für NVIDIA Enterprise KI-Fabrikenn entwickelt wurden und eine skalierbare, optimierte Bereitstellung sicherstellen

Verringerung von Komplexität und TCO

Vereinfachen Sie Bereitstellungsprozesse und effiziente Designs, verringern Sie die Komplexität und die Gesamtbetriebskosten (TCO) und verkürzen Sie gleichzeitig die Zeit bis zum Token.

Supportfähigkeit

Die Einhaltung spezifischer, standardisierter Designmuster ermöglicht den konsistenten Betrieb von einer Installation zur nächsten, verringert den Bedarf nach häufigem Support und ermöglicht schnellere Lösungszeiten.

Partners

Partner für Performance

Wir sind stolz auf unsere Zusammenarbeit mit führenden Partnern, die Enterprise-Referenzarchitekturen und KI-Fabriklösungen auf den Markt bringen. Die Designs dieser Partner wurden durch unser Design Review Board (DRB) geprüft. Diese Partner bieten Beratung, die wir in einer oder mehreren der folgenden Kategorien empfehlen: Infrastruktur, Netzwerklogik und Software.

Ressourcen

Erfahren Sie mehr über Enterprise-RAs

Bereitstellung der NVIDIA H200 NVL im großen Maßstab mit neuer Enterprise-Referenzarchitektur

Erfahren Sie, wie die NVIDIA H200 NVL die KI-Bereitstellung mit verbessertem Speicher, High-Speed-NVLink und optimierter Enterprise-RA-Konfiguration beschleunigt

Vereinfachen Sie die Verwaltung des Systemspeichers mit der neuesten NVIDIA GH200 NVL2 Enterprise-RA

Erfahren Sie, wie die NVIDIA GH200 NVL2 Enterprise-RA die Verwaltung des Systemspeichers vereinfacht und die KI-Entwicklung beschleunigt

Eine neue Ära der KI-Fabriken: NVIDIA stellt Enterprise-Referenzarchitekturen vor

Globale Unternehmen können jetzt neue Referenzarchitekturen nutzen, um skalierbare und sichere Hochleistungsrechenzentren zu errichten.

Programm „NVIDIA-zertifiziert“ wird für schnellere KI-Fabrikbereitstellung auf Enterprise-Speicher ausgeweitet

Erfahren Sie, wie NVIDIA-zertifizierter Speicher schnellere und zuverlässigere KI-Fabrikbereitstellungen ermöglicht, indem Enterprise-Speichersysteme für KI-Leistung und -Integration validiert werden.

Nord-Süd-Netzwerke: Der Schlüssel zu schnelleren Unternehmens-KI-Workloads

NVIDIA Enterprise-Referenzarchitekturen leiten Unternehmen bei der Bereitstellung von KI-Fabriken, die sowohl Nord-Süd- als auch Ost-West-Netzwerke nutzen, und bieten Designrezepte für eine skalierbare, sichere und leistungsstarke KI-Infrastruktur.

Neuigkeiten in Sachen NVIDIA-zertifiziert

Nehmen Sie an diesem globalen Webinar zur NVIDIA-Zertifizierung teil und erfahren Sie von Experten, Prüfungserstellern und zertifizierten Fachleuten, wie NVIDIA-Qualifikationen Ihre Karriere beschleunigen und für geschäftliche Auswirkungen sorgen.

NVIDIA Blackwell Ultra liefert bis zu 50-mal bessere Leistung und 35-mal geringere Kosten für agentische KI

NVIDIA Blackwell Ultra wurde entwickelt, um die nächste Generation der agentischen KI zu beschleunigen und bietet bahnbrechende Inferenzleistung bei deutlich geringeren Kosten. Cloud-Anbieter wie Microsoft, CoreWeave und Oracle Cloud Infrastructure setzen NVIDIA GB300 NVL72-Systeme in großem Maßstab für Anwendungsfälle mit geringer Latenz und langer Kontextdauer ein, wie zum Beispiel agentische Programmierung und Programmierassistenten.

Dies wird durch ein eng abgestimmtes Co-Design zwischen NVIDIA Blackwell, NVLink™ und NVLink Switch für Scale-out, NVFP4 für Genauigkeit bei Berechnungen mit niedriger Präzision und NVIDIA Dynamo sowie TensorRT™ LLM für Geschwindigkeit und Flexibilität ermöglicht – sowie durch die Entwicklung mit Community-Frameworks wie SGLang, vLLM und mehr.

Wie geht es weiter?

Sind Sie bereit?

Erfahren Sie mehr über die NVIDIA Enterprise KI-Fabrik.

Whitepaper zu NVIDIA ERA

Erfahren Sie, wie NVIDIA Enterprise-Referenzarchitekturen (RAs) skalierbare, präskriptive Blueprints für die Bereitstellung einer leistungsstarken KI-Infrastruktur liefern

Serverkonfiguration 2-8-5-200 Technische Daten

Serverkonfiguration 2-8-9-400 Technische Daten

Serverkonfiguration 2-4-6-400 – Technische Daten

Cisco ist der weltweit führende Technologieanbieter, der die Art und Weise revolutioniert, wie Unternehmen im KI-Zeitalter sich vernetzen und schützen. Seit mehr als 40 Jahren verbindet Cisco die Welt auf sichere Weise. Mit seinen branchenführenden KI-gestützten Lösungen und Diensten ermöglicht Cisco seinen Kunden, Partnern und Gemeinschaften, Innovationen zu fördern, die Produktivität zu steigern und die digitale Ausfallsicherheit zu stärken. Cisco verfolgt einen Zweck und verpflichtet sich weiterhin, eine stärker vernetzte und inklusive Zukunft für alle zu schaffen.

Vom NVIDIA Design Review Board empfohlene Lösungen:

Dell Technologies hilft Organisationen und Einzelpersonen dabei, ihre digitale Zukunft aufzubauen und die Art und Weise zu verändern, wie sie arbeiten, leben und spielen. Das Unternehmen bietet Kunden das branchenweit breiteste und innovativste Technologie- und Dienstleistungsportfolio für das KI-Zeitalter.

HPE ist ein führendes Unternehmen im Bereich wichtiger Unternehmenstechnologien, das die Leistungsfähigkeit von KI, Cloud und Netzwerken zusammenbringt, um Unternehmen dabei zu unterstützen, mehr zu erreichen. Als Pioniere der Möglichkeiten verbessern unsere Innovationen und Expertise die Art und Weise wie Menschen leben und arbeiten. Wir ermöglichen unseren Kunden aus verschiedenen Branchen, ihre betriebliche Leistung zu optimieren, Daten in Voraussicht zu verwandeln und ihre Wirkung zu maximieren. Erfüllen Sie Ihre kühnsten Ambitionen mit HPE.

Lenovo ist ein globales Technologieunternehmen mit einem Umsatz von 69 Milliarden US-Dollar, das auf Platz 196 der Fortune Global 500 steht und jeden Tag Millionen von Kunden in 180 Märkten bedient. Unsere laufende Partnerschaft mit NVIDIA konzentriert sich auf die Vision, intelligentere Technologie für alle bereitzustellen, und kombiniert Lenovo-Server mit beschleunigten GPUs. Der Lenovo Hybrid AI Advantage™ mit NVIDIA steigert die Produktivität und Innovation durch eine schnellere KI-Bereitstellung, die von der Lenovo KI-Bibliothek und einem Full-Stack-Portfolio von KI-Infrastruktur, Geräten, Lösungen und Diensten unterstützt wird.

Vom NVIDIA Design Review Board empfohlene Lösungen:

Supermicro ist ein weltweit führendes Unternehmen für anwendungsoptimierte IT-Gesamtlösungen. Supermicro wurde in San Jose, Kalifornien, gegründet und hat sich verpflichtet, erstklassige Innovationen für Unternehmen, Cloud, KI und 5G-Telekommunikations-/Edge-IT-Infrastruktur bereitzustellen. Wir sind ein Anbieter von IT-Gesamtlösungen mit Server-, KI-, Datenspeicher-, IoT-Systemen, Software und Supportdiensten. Die Expertise von Supermicro in den Bereichen Motherboard, Stromversorgung und Gehäusedesign fördert unsere Entwicklung und Produktion – somit können wir Innovationen der nächsten Generation für unsere globalen Kunden vorantreiben, von der Cloud bis zum Edge.

Vom NVIDIA Design Review Board empfohlene Lösungen: