This site requires Javascript in order to view all its content. Please enable Javascript in order to access all the functionality of this web site. Here are the instructions how to enable JavaScript in your web browser.

Architettura NVIDIA Hopper

Il nuovo motore per l'infrastruttura IA fa passi da gigante nelle prestazioni.

Scopri di più

La piattaforma di computing accelerato per carichi di lavoro di nuova generazione .

Scopri la nuova frontiera nel computing accelerato con l'architettura NVIDIA Hopper^™. Hopper scala in modo sicuro carichi di lavoro diversi in ogni data center, da piccoli calcoli al computing exascale ad alte prestazioni (HPC) e modelli IA da miliardi di parametri, per consentire alle menti innovative più brillanti di lavorare al ritmo più veloce della storia umana.

Esplora le innovazioni tecnologiche

Realizzato con oltre 80 miliardi di transistor che utilizzano un processo TSMC 4N all'avanguardia, Hopper include cinque innovazioni rivoluzionarie che alimentano la GPU NVIDIA H200 e le GPU H100 Tensor Core e si combinano per offrire un'incredibile accelerazione 30 volte superiore rispetto alla precedente generazione sull'inferenza con IA del chatbot NVIDIA Megatron 530B, il modello di linguaggio generativo più grande del mondo.

Transformer Engine

L'architettura NVIDIA Hopper potenzia la tecnologia Tensor Core con Transformer Engine, progettato per accelerare il training di modelli IA. I Tensor Core Hopper hanno la capacità di applicare formati misti di precisione FP8 e FP16 per accelerare significativamente i calcoli IA per i trasformatori. Hopper triplica anche le operazioni in virgola mobile al secondo (FLOPS) per le precisioni TF32, FP64, FP16 e INT8 rispetto alla generazione precedente. Insieme a Transformer Engine e NVIDIA® NVLink® di quarta generazione, i Tensor Core Hopper alimentano un'accelerazione di grande magnitudo su carichi di lavoro HPC e IA.

Scopri di più su NVIDIA Tensor Core

Sistema switch NVLink, NVSwitch e NVLink

Per sostenere la velocità del business, i modelli HPC exascale e IA a trilioni di parametri necessitano di una comunicazione fluida e ad alta velocità tra ogni GPU in un cluster di server per favorire un'accelerazione su larga scala.

NVLink di quarta generazione è in grado di scalare input e output (IO) multi-GPU con server NVIDIA DGX™ e HGX™ a una velocità di 900 gigabyte al secondo (GB/s) bidirezionale per GPU, oltre 7 volte la larghezza di banda di PCIe Gen5.

La terza generazione di NVIDIA NVSwitch™ supporta il protocollo SHARP™ (Scalable Hierarchical Aggregation and Reduction Protocol) per il calcolo in rete, precedentemente disponibile solo su InfiniBand, con un raddoppiamento della produttività complessiva della riduzione su otto server H200 o H100 GPU rispetto al precedente GPU A100 Tensor Core.

I sistemi DGX GH200 con sistema switch NVLink supportano cluster fino a 256 H200 connessi e offrono 57,6 terabyte al secondo (TB/s) di larghezza di banda.

Scopri di più su NVLink e NVSwitch

NVIDIA Confidential Computing

Anche se i dati vengono crittografati a riposo nella memoria e in transito attraverso la rete, essi non lo sono durante l'elaborazione. Il computing riservato colma questa lacuna proteggendo i dati e le applicazioni in uso. L'architettura NVIDIA Hopper introduce la prima piattaforma di computing accelerato del mondo con funzionalità di computing riservato.

Con una sicurezza solida basata su hardware, gli utenti possono eseguire applicazioni in locale, nel cloud o sui sistemi perimetrali sapendo che le entità non autorizzate non possano visualizzare o modificare il codice e i dati dell'applicazione mentre sono in uso. Questo protegge la riservatezza e l'integrità di dati e applicazioni, con l'accelerazione senza precedenti delle GPU H200 e H100 per il training con IA, l'inferenza con IA e i carichi di lavoro HPC.

Scopri di più sul computing riservato di NVIDIA

MIG di seconda generazione

Con Multi-Instance GPU (MIG), ciascuna GPU può essere partizionata in più istanze GPU, completamente isolate e sicure, ciascuna con la sua memoria, la sua cache e i core di calcolo. L'architettura Hopper migliora ulteriormente MIG supportando configurazioni multi-tenant e multiutente in ambienti virtualizzati su un massimo di sette istanze GPU, isolando in modo sicuro ciascuna istanza con computing riservato a livello di hardware e hypervisor. I decoder video dedicati per ogni istanza MIG offrono analisi video intelligenti sicure e ad alta produttività (IVA) su infrastruttura condivisa. Inoltre, con la profilazione MIG simultanea di Hopper, gli amministratori possono monitorare che l'accelerazione con GPU sia correttamente dimensionata e ottimizzare l'allocazione delle risorse per gli utenti.

Per i ricercatori con carichi di lavoro più piccoli, invece di noleggiare un'istanza CSP completa, è possibile scegliere di utilizzare MIG per isolare in modo sicuro una parte della GPU, garantendo al contempo che i dati siano al sicuro a riposo, in transito e durante l'elaborazione.

Scopri di più su MIG

Istruzioni per DPX

La programmazione dinamica è una tecnica algoritmica per risolvere un problema ricorsivo complesso scomponendolo in sottoproblemi più semplici. Memorizzando i risultati dei sottoproblemi in modo da non doverli ricalcolare in seguito, si riducono i tempi e la complessità della risoluzione esponenziale. La programmazione dinamica è comunemente utilizzata in una vasta gamma di casi d'uso. Ad esempio, Floyd-Warshall è un algoritmo di ottimizzazione d percorsi che può essere utilizzato per mappare i percorsi di spedizione più brevi. L'algoritmo Smith-Waterman viene utilizzato per le applicazioni di allineamento delle sequenze DNA e folding delle proteine.

Le istruzioni per Hopper DPX per accelerare gli algoritmi di programmazione dinamica di 40 volte rispetto ai server tradizionali con sola CPU dual-socket e 7 volte rispetto alle GPU con architettura NVIDIA Ampere. Questo porta a tempi significativamente più veloci nella diagnosi delle malattie, nelle ottimizzazioni dei percorsi e persino nell'analisi dei grafici.

Scopri di più sulle istruzioni DPX

Specifiche preliminari, soggette a modifica
Confronto delle istruzioni tra DPX HGX H100 4-GPU e IceLake dual socket 32 core

Pronto per l'IA aziendale?

L'adozione dell'IA da parte delle aziende è ormai diffusa e le organizzazioni hanno bisogno di un'infrastruttura completa e pronta che le aiuti ad accelerare il passaggio a questa nuova era.

Le GPU NVIDIA H100 Tensor Core per server mainstream sono dotate della suite software NVIDIA AI Enterprise, che semplifica l'adozione dell'IA con le massime prestazioni.

Attiva NVIDIA AI Enterprise per H100

Approfondisci l'architettura NVIDIA Hopper.

Leggi il white paper