Tecnologia NVLink

Avanços no processamento de várias GPUs

Maximização da taxa de transferência dos sistemas

Maximização da taxa de transferência dos sistemas

A tecnologia NVIDIA® NVLink aborda essa questão da interconexão oferecendo maior largura de banda, mais links e escalabilidade aprimorada para configurações de sistemas de várias placas de vídeo e de várias GPUs/CPUs. Uma única GPU NVIDIA Tesla® V100 oferece suporte para até seis interconexões NVLink e uma largura de banda total de 300 GB/segundo: 10 vezes a largura de banda de PCIe da 3ª geração. Os servidores como o novo NVIDIA DGX-1 aproveitam essas tecnologias para oferecer a você maior escalabilidade para treinamento super-rápido de deep learning.

Novos níveis de aceleração entre GPUs

Apresentada pela primeira vez com a arquitetura NVIDIA Pascal, a NVLink no Tesla V100 aumentaram a taxa de sinalização de 20 para 25 GB/segundo em cada direção. Ela pode ser usada em comunicações de GPU para CPU e entre GPUs, assim como no servidor DGX-1V com Tesla V100.

Tesla V100 com conexões NVLink de GPU para CPU e entre GPUs
NVLink conectando oito aceleradores Tesla V100 em uma topologia de cubo de malha híbrido como a usada no servidor DGX-1V
Novos níveis de desempenho

Novos níveis de desempenho

A NVIDIA NVLink pode trazer até 31% mais desempenho a um servidor com configuração idêntica. Sua largura de banda significativamente mais alta e latência reduzida possibilitarão que até mesmo cargas de trabalho maiores de deep learning dimensionem seu desempenho ao continuarem crescendo.

NvSwitch: NvLink totalmente conectado

O rápido crescimento das cargas de trabalho de aprendizado profundo impulsionou a necessidade de uma interconexão mais rápida e escalável, já que a largura de banda PCIe se torna o gargalo no nível do sistema multi-GPU.

O NVLink é um grande avanço para habilitar oito GPUs em um único servidor e acelerar o desempenho além do PCIe. Mas levar o desempenho do aprendizado profundo ao próximo nível exigirá uma estrutura de GPU que permita mais GPUs em um único servidor e conectividade de largura de banda total entre eles.

A NVIDIA NVSwitch é a primeira arquitetura de switch no nó a suportar 16 GPUs totalmente conectadas em um único nó de servidor e comunicação simultânea entre todos os oito pares de GPUs a incríveis 300 GB / s cada. Essas 16 GPUs podem ser usadas como um único acelerador em grande escala com 0,5 Terabytes de espaço de memória unificada e 2 petaFLOPS de capacidade de computação de aprendizagem profunda.

Gráfico de aceleração da NVSwitch