Pour s’adapter au rythme des entreprises et répondre aux exigences du calcul intensif, les applications de HPC Exascale et les modèles d’IA incluant des billions de paramètres requièrent la mise en œuvre de communications fluides à haute vitesse entre tous les GPU du même cluster.
La technologie NVLink de quatrième génération constitue une solution d’interconnexion entièrement évolutive. Combiné au nouveau commutateur NVLink externe, le réseau NVLink permet de mettre à l’échelle des communications E/S multi-GPU sur plusieurs serveurs à un débit bidirectionnel de 900 Go/s par GPU, ce qui représente une bande passante 7 fois plus élevée que la norme PCIe Gen5. Le réseau NVLink est en mesure de prendre en charge des clusters de 256 GPU H100 interconnectés, et il offre une bande passante 9 fois plus élevée que l’InfiniBand HDR sur Ampere.
NvLink prend également en charge le calcul en réseau avec SHARP, qui était auparavant exclusivement disponible avec Infiniband, et il fournit une puissance exceptionnelle d’un exaflop pour les calculs d’IA à dispersion FP8 tout en garantissant une bande passante All-to-All pouvant atteindre 57,6 téraoctets par seconde (To/s).