Чтобы двигаться со скоростью бизнеса, модели экзафлопсных HPC-вычислений и моделей ИИ с триллионами параметров нуждаются в высокоскоростной и бесперебойной связи между каждым GPU в серверном кластере.
NVLink четвертого поколения - это масштабируемый интерконнект. В сочетании с новым внешним коммутатором NVLink сеть NVLink обеспечивает масштабирование ввода-вывода нескольких GPU на нескольких серверах со скоростью 900 гигабайт в секунду в обоих направлениях на каждый GPU, что в 7 раз превышает пропускную способность PCIe Gen5. NVLink Network поддерживает кластеры до 256 подключенных H100 и обеспечивает пропускную способность в 9 раз выше, чем InfiniBand HDR на Ampere.
Кроме того, NVLink теперь поддерживает внутрисетевые вычисления под названием SHARP, ранее доступные только на Infiniband, и может обеспечить один экзафлоп вычислений ИИ FP8 при пропускной способности All2All 57,6 терабайт/с.