architetture di riferimento
Crea fabbriche IA aziendali scalabili
Trasforma il tuo data center in una fabbrica di IA ad alte prestazioni con le architetture di riferimento NVIDIA.
Panoramica
Le fondamenta per il successo dell’IA
Le architetture di riferimento NVIDIA (RA) consentono alle organizzazioni di progettare, distribuire e scalare fabbriche IA ad alte prestazioni utilizzando un'infrastruttura convalidata e ripetibile. Questi design combinano calcolo certificato, networking est-ovest e nord-sud ad alta velocità, strumenti di osservabilità e software di infrastruttura per garantire prestazioni scalabili, da cluster a quattro nodi ad ambienti su scala aziendale.
Architetture di riferimento NVIDIA
Guida alla gamma completa
È ora disponibile una suite completa di istruzioni per la configurazione di cluster nel data center.
Casi d'uso
Progettato per ogni scenario di utilizzo
Accelera i carichi di lavoro di IA agentica, IA fisica, calcolo ad alte prestazioni (HPC) e simulazione IA con le architetture di riferimento NVIDIA collaudate e gi NVIDIA-Certified Systems™ forniti da partner globali. Le configurazioni di cluster dell'infrastruttura principali per la distribuzione di fabbriche IA aziendali sono descritte di seguito.
-
Fabbrica IA NVIDIA RTX PRO
-
Fabbrica IA NVIDIA HGX
-
Fabbrica IA NVIDIA NVL72
Fabbrica IA NVIDIA RTX PRO
La configurazione della fabbrica IA NVIDIA RTX PRO™ è progettata per una vasta gamma di carichi di lavoro aziendali, tra cui IA generativa e agentica, analisi dei dati, calcolo visivo e simulazione ingegneristica. Le distribuzioni sono ottimizzate su punti di progettazione da 16 e 32 nodi, fornendo un equilibrio ideale tra prestazioni, scalabilità ed efficienza di distribuzione. Progettati per l'accelerazione universale del carico di lavoro nell'IA aziendale, nella simulazione e nel visual computing, i server NVIDIA RTX PRO sono ottimizzati per ambienti PCIe, rendendoli ideali per data center con spazio, alimentazione e raffreddamento limitati. Progettati appositamente per i carichi di lavoro IA moderni, offrono prestazioni efficienti per l'IA agentica e l'inferenza di modelli linguistici di grandi dimensioni (LLM).
Fabbrica IA NVIDIA HGX
La configurazione della fabbrica IA NVIDIA HGX™ ad alte prestazioni è progettata appositamente per l'addestramento e l'inferenza IA multi-nodo su larga scala, sfruttando i sistemi NVIDIA HGX. Disponibile in design point da 32, 64 e 128 nodi e supportata dalla rete NVIDIA Spectrum-X™, l'architettura è dotata di un design flessibile e ottimizzato per rail che consente un'integrazione efficiente in diversi layout di rack, offrendo prestazioni ad alto throughput e a bassa latenza. Fornisce prestazioni rivoluzionarie per gli utenti esperti di IA che eseguono i carichi di lavoro più impegnativi, consente l'addestramento e l'ottimizzazione di modelli su larga scala e accelera notevolmente l'inferenza. Con una precisione di nuova generazione e interconnessioni ultra veloci, la soluzione offre un throughput dei token fino a 15 volte superiore.
Fabbrica IA NVIDIA NVL72
La configurazione di NVIDIA NVL72 AI Factory è progettata per addestrare e distribuire modelli da mille miliardi di parametri, offrendo potenza di calcolo exascale in un singolo rack. Costruito per un massiccio throughput di modelli, inferenza multi-utente e inferenza in tempo reale su larga scala, consente la nuova generazione dell'innovazione basata sull'IA. I punti di progettazione della distribuzione si concentrano sulle configurazioni a quattro e otto rack. Basata su una rete flessibile e ottimizzata per rail-optimized, l'architettura si adatta ai diversi layout di rack e ai design di sistema, offrendo prestazioni a elevata larghezza di banda e bassa latenza. La piattaforma offre risultati di fabbrica IA eccezionali con un'efficienza energetica leader del settore ed è basata su NVIDIA NVLink™ di quinta generazione, Tensor Core FP4 e innovazioni termiche avanzate.
Vantaggi
Il valore strategico delle architetture di riferimento NVIDIA
Sblocca infrastrutture IA scalabili e ad alte prestazioni con configurazioni comprovate e pronte per i partner.
Prestazioni di picco per carichi di lavoro IA
Soddisfa le esigenze intense dell'inferenza, del fine-tuning e dell'addestramento IA con architetture che garantiscono il pieno utilizzo e la coerenza delle prestazioni delle GPU nei cluster multi-nodo.
Scalabilità flessibile, operazioni semplificate
Espandi facilmente la tua infrastruttura e garantisci una distribuzione scalabile e semplificata per un massimo di 128 nodi. Crea la base per soluzioni full-stack con il design convalidato di NVIDIA Enterprise AI Factory, che sfrutta il nostro ecosistema software.
Ridurre la complessità e il TCO
Semplifica i processi di distribuzione e i design efficienti, riduci la complessità e il costo totale di proprietà (TCO), riducendo al contempo il time-to-value.
Sostenibilità
Segui modelli di progettazione specifici e standardizzati per ottenere un funzionamento coerente da un'installazione all'altra, ridurre la necessità di supporto frequente e consentire tempi di risoluzione più rapidi.
Partner
Partner per le prestazioni
Siamo orgogliosi di collaborare con i principali partner mentre portano sul mercato soluzioni AI Factory. I design approvati da questi partner hanno superato il nostro Design Review Board, offrendo una guida che merita la nostra approvazione in una o più delle seguenti categorie: infrastruttura, Spectrum-X e architettura logica di rete.
Sovereign AI OS Reference Architecture Palantir con NVIDIA
Sovereign AI OS Reference Architecture di Palantir è basata sulle architetture di riferimento NVIDIA, testate e qualificate per eseguire la suite software completa di Palantir sull'infrastruttura NVIDIA AI con i nostri partner di sistema globali. Questa architettura IA sovrana è fondamentale per i clienti con flussi di lavoro sensibili alla latenza, requisiti di sovranità dei dati e un'elevata distribuzione geografica. L'architettura fornisce alle aziende un controllo totale sui propri dati, sui modelli IA e sulle applicazioni.
Risorse
Scopri di più sulle RA NVIDIA
La fabbrica IA di NVIDIA IT promuove l'innovazione aziendale su larga scala
Sfruttando le architetture di riferimento NVIDIA, NVIDIA ha creato una fabbrica IA unificata per scalare i flussi di lavoro di IA generativa e agentici in tutta l'azienda, garantendo sicurezza, prestazioni e coerenza. La piattaforma supporta centinaia di agenti IA che accelerano l'innovazione, semplificano la progettazione software e hardware e ottimizzano le operazioni della supply chain, riducendo i tempi di pianificazione di oltre il 95% e conseguendo in solo anno un lavoro di progettazione di decenni.
Prossimi passi
FAQ sull'architettura di riferimento NVIDIA
Le architetture di riferimento NVIDIA forniscono una guida chiara e consolidata alla progettazione dei cluster per i partner di sistema globali di NVIDIA e i clienti aziendali che creano fabbriche IA aziendali. Coprono le risorse di calcolo, rete, storage e software di infrastruttura, portando i sistemi NVIDIA-Certified, NVIDIA-Certified Storage, NVIDIA Networking e il software NVIDIA AI Enterprise in design integrati per l'infrastruttura IA in produzione.
Scegli RTX PRO AI Factory per l'IA aziendale in senso ampio, tra cui physical AI e IA agentica, calcolo visivo, analisi, simulazione e inferenza di modelli di medie e grandi dimensioni.
Scegli HGX AI Factory per l'addestramento multi-nodo ad alte prestazioni, il fine-tuning e l'inferenza su larga scala.
Scegli NVL72 AI Factory per i carichi di lavoro più intensivi, tra cui l'addestramento di modelli da mille miliardi di parametri, il ragionamento in tempo reale e l'inferenza su larga scala ad alto throughput.
Inizia con il tipo di carico di lavoro, il numero di utenti, le dimensioni del modello, l'obiettivo delle prestazioni, il volume di dati e il piano di crescita. NVIDIA pubblica i punti di progettazione per ogni architettura, tra cui i sistemi RTX PRO da 16 e 32 nodi, i sistemi HGX da 32, 64 e 128 nodi e i sistemi NVL72 da 2, 4 e 8 rack. Collabora con un partner di sistemi NVIDIA per confermare il design e la lista dei materiali per la distribuzione.
Il codice segue un formato CPU-GPU-adattatore di rete-larghezza di banda. In 2-8-5-200, il sistema ha 2 socket per CPU, 8 GPU, 5 adattatori di rete con 1 per il traffico nord-sud e 4 per il traffico est-ovest, e una larghezza di banda est-ovest media di 200 GbE per GPU.
L'architettura di riferimento di NVIDIA fornisce una guida per il calcolo, la rete, lo storage, il software di infrastruttura e la distribuzione. Il design convalidato di NVIDIA Enterprise AI Factory aggiunge uno stack completo selezionato e versionato di NVIDIA e software dei partner che supporta i carichi di lavoro IA. I team possono utilizzare l'RA per pianificare l'infrastruttura IA attraverso il livello di Kubernetes e il design convalidato per distribuire e gestire lo stack software su tale infrastruttura.
Cisco, Dell Technologies, HPE, Lenovo e Supermicro offrono design basati su NVIDIA RA e approvati dal Design Review Board di NVIDIA. Verifica la documentazione di NVIDIA RA per i modelli di server attuali, le configurazioni delle GPU, i punti di scala e lo stato di approvazione prima di selezionare un sistema.
I sistemi certificati NVIDIA convalidano il nodo: i server testati per soddisfare i requisiti di NVIDIA per le prestazioni, la gestibilità, la sicurezza e la scalabilità dell'IA aziendale.
Le architetture di riferimento NVIDIA definiscono il cluster: come i sistemi NVIDIA-Certified, la rete NVIDIA, lo storage e il software NVIDIA AI Enterprise si uniscono in configurazioni ripetibili per le Enterprise AI Factory.
In breve, NVIDIA-Certified indica ai clienti che un sistema è pronto per l'IA; le NVIDIA RA mostrano a partner e clienti come assemblare tali sistemi in distribuzioni scalabili di Enterprise AI Factory.
Cisco è il leader tecnologico mondiale che sta rivoluzionando il modo in cui le organizzazioni si connettono e si proteggono nell'era dell'IA. Da oltre 40 anni Cisco ha connesso il mondo in modo sicuro. Con le sue soluzioni e servizi basati sull'IA leader di settore, Cisco consente ai propri clienti, partner e community di promuovere l'innovazione, migliorare la produttività e rafforzare la resilienza digitale. Con lo scopo al centro della propria attività, Cisco rimane impegnata a creare un futuro più connesso e inclusivo per tutti.
Soluzioni approvate dalla NVIDIA Design Review Board:
- Architettura di riferimento Cisco Enterprise per NVIDIA HGX B300: Cisco N9000 | Cisco Nexus Hyperfabric
- Architettura di riferimento Cisco Enterprise per NVIDIA HGX H200: Cisco N9000 | Cisco Nexus Hyperfabric
- Infrastruttura Cisco AI POD per la NVIDIA 2-8-9-400 Enterprise Reference Architecture
- Infrastruttura Cisco AI POD per la Enterprise Reference Architecture NVIDIA 2-8-5-200
Dell Technologies aiuta le organizzazioni e gli individui a costruire il proprio futuro digitale e a trasformare il modo di lavorare, vivere e giocare. L'azienda fornisce ai clienti il portfolio di tecnologie e servizi più ampio e innovativo del settore per l'era dell'IA.
Soluzioni approvate dalla NVIDIA Design Review Board:
- Dell AI Factory con NVIDIA: server NVIDIA RTX PRO e H200 NVL
- Dell AI Factory con NVIDIA per il governo: server NVIDIA RTX PRO
- Dell AI Factory con NVIDIA: HGX H200
HPE è leader nella tecnologia aziendale essenziale che riunisce la potenza dell'IA, del cloud e della rete per aiutare le organizzazioni a ottenere di più. Come pionieri delle possibilità, la nostra innovazione e le nostre competenze promuovono il modo di vivere e lavorare delle persone. Consentiamo ai nostri clienti di tutti i settori di ottimizzare le prestazioni operative, trasformare i dati in previsione e massimizzare il loro impatto. Realizza le tue ambizioni più audaci con HPE.
Soluzioni approvate dalla NVIDIA Design Review Board:
- HPE AI Factory con NVIDIA: server NVIDIA RTX PRO
- HPE AI Factory con NVIDIA: NVIDIA HGX B300
Lenovo è una potenza tecnologica globale con un fatturato di 69 miliardi di dollari, al 196° posto nella classifica Fortune Global 500 e che serve milioni di clienti ogni giorno in 180 mercati. Incentrata sulla visione audace di fornire una tecnologia più intelligente per tutti, la nostra partnership in corso con NVIDIA combina i server Lenovo con le GPU accelerate. Lenovo Hybrid AI Advantage™ con NVIDIA aumenta la produttività e l'innovazione con una distribuzione IA più rapida, basata sulla libreria IA Lenovo e su un portfolio completo di infrastruttura IA, dispositivi, soluzioni e servizi.
Soluzioni approvate dalla NVIDIA Design Review Board:
Supermicro è leader globale nelle soluzioni IT totali ottimizzate per le applicazioni. Fondata e operativa a San Jose, in California, Supermicro si impegna a fornire innovazioni all'avanguardia per le aziende, il cloud, l'IA e l'infrastruttura IT 5G per le telecomunicazioni/edge. Siamo un fornitore di soluzioni IT complete con server, IA, storage, IoT, sistemi switch, software e servizi di supporto. L'esperienza di Supermicro nella progettazione delle schede madri, dell'alimentazione e degli chassis consente ulteriormente lo sviluppo e la produzione, consentendo l'innovazione di nuova generazione dal cloud all'edge per i nostri clienti globali.
Soluzioni approvate dalla NVIDIA Design Review Board:
- Soluzioni per le fabbriche IA con i server NVIDIA RTX PRO: scheda tecnica | Architettura di riferimento
- Soluzioni per le fabbriche IA con NVIDIA HGX B300: piano singolo e doppio: scheda tecnica | Architettura di riferimento
- Soluzioni per fabbriche IA con NVIDIA HGX B200: scheda tecnica | Architettura di riferimento