NVIDIA NVLink Fusion

Infrastruttura IA semi-personalizzata con prestazioni di scalabilità IA collaudate nel settore e architettura rack-scale.

Panoramica

Prestazioni di scalabilità di prim'ordine

NVIDIA NVLink™ Fusion è una piattaforma di infrastruttura IA rack-scale che consente agli hyperscaler e ai progettisti di ASIC personalizzati di integrare CPU e XPU personalizzate con l'interconnessione scalabile NVLink leader al mondo e l'architettura server rack-scale OCP MGX. Sfrutta lo stack tecnologico IA collaudato di NVIDIA e il design e l'ecosistema rack-scale collaudati per raggiungere il mercato più velocemente, ridurre i costi di sviluppo e i rischi di distribuzione e ottenere prestazioni migliori per un ritorno sull'investimento più elevato.

Il portfolio tecnologico modulare NVLink Fusion include NVIDIA GPU, CPU NVIDIA Vera™, rete scalabile NVLink, switch ottici co-packaged (CPO), NVIDIA ConnectX® SuperNIC, BlueField® DPU e software Mission Control. L'ecosistema completo include designer ASIC, fornitori di CPU e IP, OEM/ODM e fornitori di componenti, tutti progettati per consentire la distribuzione rapida del silicio IA personalizzato.

AWS integra l'infrastruttura IA con NVIDIA NVLink Fusion per la distribuzione di Trainium4

Scopri come AWS utilizza NVLink Fusion per accelerare la distribuzione di Trainium4.

Integrare il calcolo semi-personalizzato nell'architettura rack-scale con NVIDIA NVLink Fusion

Scopri come NVIDIA NVLink Fusion consente ai grandi operatori di creare un'infrastruttura IA semi-personalizzata, integrando gli ASIC o le CPU con le GPU NVIDIA, standardizzando al contempo su una singola infrastruttura hardware scalabile.

Utilizzando NVLink Fusion, le fabbriche IA ad alte prestazioni possono scalare rapidamente, beneficiando di tutti i componenti della soluzione che rendono l'architettura NVIDIA rack-scale.

Vantaggi

Vantaggi di NVLink Fusion

Prestazioni di scalabilità di livello mondiale

Sbloccare il pieno potenziale delle fabbriche IA richiede una comunicazione rapida e fluida tra tutti gli acceleratori. NVIDIA NVLink 6 può connettere 72 XPU all-to-all a 3,6 TB/s per XPU per aumentare le prestazioni IA e il ritorno sull'investimento.

Riduzione dei costi di sviluppo

L'ecosistema di fornitori affermato di NVLink Fusion fornisce tutti i componenti necessari per la distribuzione completa su rack-scale basata sull'architettura OCP MGX, dal rack e dallo chassis ai sistemi di alimentazione e raffreddamento, eliminando i costi di sviluppo e i rischi di distribuzione associati a un nuovo rack design.

Time-to-Market accelerato

Sfruttando lo stack tecnologico collaudato di NVIDIA e l'ecosistema di designer ASIC, fornitori di CPU e IP e OEM/ODM, i grandi operatori possono ottenere un time-to-market più rapido e un time-to-revenue più rapido.

Una sola architettura unificata

Poiché gli hyperscaler distribuiscono già soluzioni rack NVIDIA complete, NVLink Fusion consente di offrire soluzioni eterogenee e al contempo di standardizzare il design comune dei rack, accelerando la distribuzione delle fabbriche IA e semplificando la gestione.

Piattaforma

Piattaforma NVIDIA NVLink Fusion

NVIDIA NVLink

NVIDIA NVLink 6 e NVLink Switch Chip consentono 260 TB/s di larghezza di banda in un singolo dominio NVLink a 72 acceleratori (NVL72) e offrono una efficienza 4 volte superiore della larghezza di banda con il supporto NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™ FP8.

NVIDIA NVLINK-C2C

NVIDIA NVLink-C2C estende la tecnologia NVLink leader di settore all'interconnessione chip-to-chip. Ciò consente la creazione di una nuova classe di prodotti integrati con i partner NVIDIA costruiti tramite chiplet, consentendo alle GPU o alle CPU NVIDIA di avere una connessione coerente e ad alta larghezza di banda con il processore su misura.

Utilizzatori

Ecosistema NVLink Fusion

Scalare le prestazioni dell'inferenza IA con NVLink Fusion

Scopri come NVIDIA NVLink Fusion affronta le crescenti esigenze dei modelli IA complessi.