NVLink e NVSwitch

A Base da Comunicação Avançada com Várias GPUs

Como o NVLink e o NVSwitch Trabalham Juntos

NVIDIA NVLink

NVIDIA A100 with NVLink GPU-to-GPU connections

NVIDIA NVSwitch

The NVSwitch topology diagram

Maximizando o Rendimento do Sistema

NVLINK de Terceira Geração

A tecnologia NVIDIA NVLink soluciona problemas de interconexão, fornecendo maior largura de banda, mais links e escalabilidade aprimorada para configurações de sistema com várias GPUs. Uma única GPU NVIDIA A100 Tensor Core suporta até 12 conexões NVLink de terceira geração para uma largura de banda total de 600 gigabytes por segundo (GB/s), quase 10 vezes a largura de banda do PCIe Gen 4.

Servidores como o NVIDIA DGX™ A100 aproveitam essa tecnologia para oferecer maior escalabilidade para treinamento ultra-rápido de deep learning.

Desempenho do NVLink

NVLink in NVIDIA A100

NVIDIA NVSwitch

NVSwitch - O NVLink Totalmente Conectado

A rápida adoção de deep learning levou à necessidade de uma interconexão mais rápida e escalável, pois a largura de banda do PCIe geralmente cria um gargalo no nível do sistema com várias GPUs. Para que as cargas de trabalho de deep learning sejam dimensionadas, é necessária uma largura de banda muito maior e latência reduzida.

NVIDIA NVSwitch se baseia no avançado recurso de comunicação do NVLink para resolver esse problema. Leva o desempenho de deep learning para o próximo nível com uma rede que permite mais GPUs em um único servidor e conectividade de largura de banda total entre elas. Cada GPU possui 12 NVLinks para NVSwitch para permitir a comunicação de alta velocidade, tudo para todos.

 

A Mais Poderosa e Completa Plataforma de Data Center de AI e HPC

O NVLink e o NVSwitch são componentes essenciais da solução completa para data center da NVIDIA, que incorpora hardware, rede, software, bibliotecas e modelos e aplicações de AI otimizadas do NGC. A mais poderosa e completa plataforma de AI e HPC permite que os pesquisadores entreguem resultados do mundo real e implantem soluções em produção, acelerando sem precedentes em todas as escalas.

Conexão Completa para Desempenho Incomparável

O NVSwitch é a primeira arquitetura de switch no nó a suportar de 8 a 16 GPUs totalmente conectadas em um único nó do servidor. O NVSwitch de segunda geração gera comunicação simultânea entre todos os pares de GPUs a incríveis 600GB/s. Ele suporta comunicação completa com o endereçamento direto da memória ponto a ponto da GPU. Estas 16 GPUs podem ser usadas como um único acelerador de alto desempenho, com espaço de memória unificado e até 10 petaFLOPS de poder computacional de deep learning.

Especificações

  • NVIDIA NVLink

    NVIDIA NVLink

  • NVIDIA NVSwitch

    NVIDIA NVSwitch

  Segunda Geração Terceira Geração
Largura de Banda Total do NVLink 300 GB/s 600 GB/s
Número Máximo de Links por GPU 6 12
Arquiteturas NVIDIA Suportadas NVIDIA Volta Arquitetura NVIDIA Ampere
  Primeira Geração Segunda Geração
Número de GPUs com Conexão Direta Até 16 Até 16
Largura de banda NVSwitch de GPU para GPU 300 GB/s 600 GB/s
Largura de Banda Agregada Total 4,8 TB/s 9,6 TB/s
Arquiteturas NVIDIA Suportadas NVIDIA Volta Arquitetura NVIDIA Ampere

Comece Agora

Experimente o NVIDIA DGX A100, o sistema universal de infraestrutura de AI e o primeiro sistema de AI do mundo construído na GPU NVIDIA A100 Tensor Core.