Conexión NVLink

Avanzando en el procesamiento de múltiples GPU

Aumentar la tasa de transferencia del sistema

MAXIMIZANDO LA TASA DE TRANSFERENCIA DEL SISTEMA

La tecnología NVIDIA® NVLink ™ aborda este problema de interconexión al proporcionar un mayor ancho de banda, más enlaces y una escalabilidad mejorada para configuraciones de sistemas multi-GPU y multi-GPU / CPU. Una sola GPU NVIDIA Tesla® V100 admite hasta seis conexiones NVLink y un ancho de banda total de 300 GB / seg-10X el ancho de banda de PCIe Gen 3. Servidores como el nuevo NVIDIA DGX-1 ™ aprovechan estas tecnologías para brindarle mayor escalabilidad entrenamiento ultrarrápido de Deep Learning.

Nuevos niveles de aceleración por GPU a GPU

Presentada por primera vez con la arquitectura NVIDIA Pascal ™, NVLink en Tesla V100 ha aumentado la velocidad de señalización de 20 a 25 GB / segundo en cada dirección. Se puede usar para comunicación de GPU a CPU o GPU a GPU, como en el servidor DGX-1V con Tesla V100.

Tesla V100 con conexiones GPU a GPU y GPU a CPU de NVLink
NVLink conexa ocho aceleradores Tesla V100 en una topología de red de cubo híbrida, como se usa en el servidor DGX-1V
Nuevos niveles de rendimiento

NUEVOS NIVELES DE RENDIMIENTO

NVIDIA NVLink puede aumentar hasta un 31% más de rendimiento a un servidor configurado con la misma configuración. Su ancho de banda dramáticamente más alto y la latencia reducida permitirán cargas de trabajo de Deep Learning incluso más grandes para escalar en rendimiento a medida que continúan creciendo.

NVSWITCH: NVSWITCH: NVLINK TOTALMENTE CONECTADO

El rápido crecimiento de las cargas de trabajo de Deep Learning ha impulsado la necesidad de una interconexión más rápida y escalable, ya que el ancho de banda de PCIe se convierte en un obstáculo en los sistemas de múltiples GPU.

NVLink es un gran avance para habilitar ocho GPU en un único servidor y acelerar el rendimiento más allá de PCIe. Pero para llevar el rendimiento de Deep Learning al siguiente nivel requerirá una estructura de GPU que habilite más GPU en un único servidor y una conectividad de ancho de banda completo entre ellos.

NVIDIA NVSwitch es la primera arquitectura de conmutadores en el nodo compatible con 16 GPU totalmente conectadas en un único nodo de servidor e impulsa la comunicación simultánea entre los ocho pares de GPU en increíbles 300 GB's cada uno. Estas 16 GPU pueden usarse como un único acelerador a gran escala con 0.5 Terabytes de espacio de memoria unificado y 2 petaFLOPS de potencia de cálculo de Deep Learning.

Gráfico de aceleración de NVSwitch