Para moverse a la velocidad del mundo empresarial actual, los modelos a exaescala de HPC y de IA con billones de parámetros necesitan una comunicación sin fisuras y de alta velocidad entre cada GPU de un clúster de servidores para poder acelerar a escala.
La red NVLink de cuarta generación es una interconexión a escala vertical. Si se combina con el nuevo conmutador NVLink externo, la red NVLink ahora permite escalar la E/S de múltiples GPU en varios servidores a 900 gigabytes/segundo en sentido bidireccional por cada GPU, 7 veces más que el ancho de banda de PCIe Gen5. La red NVLink admite clústeres de hasta 256 H100 conectados, y ofrece un ancho de banda 9 veces superior al de InfiniBand HDR en Ampere.
Además, ahora NVLink admite una computación en red llamada SHARP (antes solo disponible en InfiniBand) y es capaz de ofrecer una increíble computación de IA de dispersión de 1 exaflop de FP8 y, al mismo tiempo, alcanzar un ancho de banda All2All de 57,6 terabytes/s.