Per sostenere la velocità del business, i modelli HPC exascale e IA a trilioni di parametri necessitano di una comunicazione fluida e ad alta velocità tra ogni GPU in un cluster di server per favorire un'accelerazione su larga scala.
NVLink di quarta generazione è un'interconnessione scale-up. Se abbinata al nuovo switch esterno NVLink, la rete NVLink ora consente la scalabilità dell'I/O multi-GPU su più server a 900 Gigabyte/secondo bidirezionale per GPU, oltre 7 volte la larghezza di banda di PCIe Gen5. La rete NVLink supporta cluster fino a 256 H100 connessi e offre una larghezza di banda 9 volte superiore rispetto a InfiniBand HDR su Ampere.
Inoltre NVLink ora supporta il calcolo in rete chiamato SHARP, precedentemente disponibile solo su InfiniBand, e può fornire un'incredibile densità di calcolo IA in termini di exaFLOP a FP8, garantendo al contempo 57,6 Terabyte/s di larghezza di banda All2All.