Soluzioni di addestramento IA
Dal pre-addestramento al post-addestramento, il calcolo accelerato NVIDIA ottimizza i tempi, i costi e l'efficienza netta (goodput) della formazione su scala produttiva.
Panoramica
I modelli di frontiera aperti, chiusi e di settore sono basati su NVIDIA. Utilizzando una co-progettazione estrema in calcolo, rete, storage, memoria e software, NVIDIA offre prestazioni per watt leader di settore e continue ottimizzazioni. Ciò accelera i tempi di addestramento, riduce i costi di formazione e abilita funzionalità basate su agenti per gli sviluppatori di modelli.
Che si tratti di pre-addestrare un modello mixture-of-experts (MoE) da mille miliardi di parametri, post-addestrare un agente di ragionamento con apprendimento per rinforzo o di ottimizzare un modello di ricerca specifico per un dominio, la piattaforma di calcolo accelerato NVIDIA offre addestramento su scala di produzione per le principali aziende di IA del mondo.
Benchmark
La piattaforma NVIDIA ha eccelso nell'offrire il tempo di addestramento più rapido e le massime prestazioni per GPU nei benchmark MLPerf Training 6.0. In questo round, NVIDIA ha inviato risultati sia su sistemi GB200 NVL72 che su GB300 NVL72. Sulla stessa scala, GB300 NVL72 ha offerto un addestramento fino a 1,6 volte più veloce rispetto a GB200 NVL72. Questo round ha aggiunto due nuovi carichi di lavoro di pre-addestramento mixture-of-experts, DeepSeek-V3 671B e GPT-OSS-20B, e NVIDIA ha stabilito record di prestazioni su entrambi. Su DeepSeek-V3 671B, NVIDIA ha scalato fino a 8.192 GPU utilizzando i sistemi GB200 NVL72, la soluzione basata su Blackwell su più larga scala in MLPerf Training fino ad oggi.
Risultati MLPerfTraining v5.0, v5.1 e v6.0 recuperati da www.mlcommons.org il 16 giugno 2026. Risultati di scalabilità delle GPU MLPerf dalle voci 5.0-0004, 5.1-004, 6.0-0001, 6.0-0005 e 6.0-0014. Confronto dell'addestramento MLPerf Blackwell dalle seguenti voci: 6.0-0006, 6.0-0013, 6.0-0017, 6.0-0018, 6.0-0078 e 5.1-0072. Il nome e il logo MLPerf sono marchi registrati e non registrati della MLCommons Association negli Stati Uniti e in altri paesi. Tutti i diritti riservati. L'uso non autorizzato è severamente vietato. Per ulteriori informazioni, consulta www.mlcommons.org
Vantaggi
La piattaforma NVIDIA offre tempi di formazione più rapidi, un elevato goodput di addestramento e uno stack software completo che si ottimizza costantemente per garantire continui miglioramenti delle prestazioni.
NVIDIA Blackwell offre un addestramento fino a 3 volte più veloce e prestazioni di addestramento per dollaro quasi 2 volte superiori rispetto alla generazione precedente. NVIDIA vince ogni benchmark di MLPerf Training, dal pre-addestramento LLM al fine-tuning fino alle reti neurali grafiche, e continua a estendere la leadership con ogni versione del software.
NVIDIA NeMo™ RL con precisione FP8 end-to-end offre un throughput di rollout più elevato e una convergenza stabile per l'apprendimento per rinforzo (RL) su scala di produzione. Addestra agenti multi-ambiente e multi-turno che imparano continuamente e offrono la stessa accuratezza di BF16 a una frazione del costo.
Il parallelismo ibrido degli esperti, la precisione NVFP4 e la scalabilità NVL72 rendono NVIDIA la piattaforma d'elezione per i modelli MoE più intelligenti del mondo, dai modelli OSS ai sistemi proprietari di frontiera. Addestra più parametri più rapidamente con lo stesso budget energetico.
Dalle librerie NVIDIA come Megatron-Core e NeMo ai framework di settore, tra cui PyTorch, JAX, vLLM, SGLang e Ray, ogni importante framework di addestramento, post-addestramento e inferenza viene eseguito in modo nativo su NVIDIA. Pesi aperti, ricette aperte, contributi aperti: 1,5 milioni di modelli IA su Hugging Face girano su NVIDIA® CUDA®.
Prodotti
NVIDIA offre una co-progettazione estrema in ambito di calcolo, rete, storage, memoria e software IA, l'unica piattaforma di addestramento IA integrata verticalmente e aperta orizzontalmente nel settore.
Casi d'uso
Pre-addestra i modelli IA per dare loro capacità di base, come la comprensione del linguaggio, il riconoscimento di audio, video o immagini o l'identificazione delle relazioni nei dati, prima di adattarli per attività specifiche. Massimizza il goodput della formazione IA abilitando controlli dello stato a livello di sistema, rilevando rapidamente gli errori durante il runtime e riprendendo automaticamente l'addestramento.
Addestra agenti di ragionamento e modelli che utilizzano strumenti con NeMo RL, che include rollout FP8 end-to-end, decodifica speculativa e addestramento multi-ambiente. NeMo RL è utilizzato dai laboratori di IA di frontiera per promuovere l'era dell'IA agentica.
Adatta modelli di base aperti, come Nemotron, Meta Llama, Mistral e Google Gemma 4, ad applicazioni specifiche per dominio con le ricette di NeMo AutoModel e i set di dati selezionati. NeMo AutoModel è Hugging Face-native, PyTorch-native e supportato su ogni cluster NVIDIA cloud e on-premise.
Risorse
Scopri i blog tecnici NVIDIA, le sessioni su richiesta e i video per sviluppatori per approfondire l'infrastruttura di addestramento IA, i benchmark e le best practice.
Case Study
Dai laboratori IA di frontiera alle aziende leader, i team più ambiziosi del mondo utilizzano NVIDIA per addestrare modelli più intelligenti e più veloci.
La piattaforma NVIDIA full-stack supporta il pre-addestramento, il post-addestramento dell'apprendimento per rinforzo e l'ottimizzazione supervisionata su scala di produzione, ottimizzando i tempi di addestramento, i costi di addestramento e il goodput nei modelli IA di frontiera, aperti e aziendali.
La piattaforma di calcolo accelerato di NVIDIA include le GPU NVIDIA Blackwell Ultra e Rubin, le CPU Vera e Grace, il fabric scale-up NVLink e NVSwitch, i SuperNIC DPU ConnectX e BlueField e la rete Spectrum-X, il tutto con co-progettazione estrema per l'addestramento di modelli IA di frontiera da mille miliardi di parametri.
NVIDIA supporta PyTorch, JAX, vLLM, SGLang e Ray in modo nativo, insieme alle librerie proprietarie, tra cui Megatron Core, NeMo RL, NeMo AutoModel e NCCL. Oltre 1,5 milioni di modelli Hugging Face vengono eseguiti su CUDA.
I principali laboratori IA, nativi dell'IA, startup e aziende, tra cui OpenAI, xAI, Arcee AI, Roche, Eli Lilly e Hudson River Trading, addestrano modelli di frontiera e specifici per dominio su sistemi basati su NVIDIA Blackwell.
NVIDIA Blackwell offre un addestramento fino a 3 volte più veloce e prestazioni di addestramento per dollaro quasi 2 volte superiori rispetto alla generazione precedente, superando ogni benchmark di addestramento MLPerf nel pre-addestramento LLM, nel fine-tuning e nelle reti neurali a grafi.
Addestra modelli di frontiera con soluzioni e blueprint di infrastruttura IA convalidati dai partner NVIDIA.
Ricevi le ultime ricerche, i risultati dei benchmark e le storie dei clienti consegnati nella tua casella di posta.