NVIDIA Virtual Compute Server

Potencialize as Cargas de Trabalho de Servidor Mais Intensivas em Processamento com GPUs Virtuais

Virtualize a Computação para AI, Deep Learning e Data Science.

O servidor de computação virtual da NVIDIA (vCS) permite que os data centers aceleram a virtualização de servidores com as mais recentes GPUs para data centers da NVIDIA, incluindo a GPU NVIDIA A100 Tensor Core¹, para que as cargas de trabalho mais intensivas em computação, como inteligência artificial, deep learning e ciência de dados, pode ser executado em uma máquina virtual (VM).

CARACTERÍSTICAS

GPU Sharing

Compartilhamento de GPU

O compartilhamento (fracionário) de GPU só é possível com a tecnologia NVIDIA vGPU. Ela permite que várias VMs compartilhem uma GPU, maximizando a utilização para cargas de trabalho mais leves que exigem aceleração da GPU.

GPU Aggregation

Agregação de GPU

Com a agregação de GPU, uma VM pode acessar mais de uma GPU, o que geralmente é necessário para cargas de trabalho intensivas em processamento. O vCS suporta processamentos multi-vGPU e ponto a ponto. Com a multi-vGPU, as GPUs não são conectadas diretamente; com ponto a ponto, eles usam o NVLink para obter maior largura de banda.

Management and Monitoring

Gerenciamento e Monitoramento

O vCS fornece suporte para monitoramento em nível de aplicação, convidado e gerente. Além disso, os recursos de gerenciamento proativo oferecem a capacidade de realizar a migração migração ao vivo, suspender e retomar, além de criar limites que expõem as tendências de consumo que afetam as experiências do usuário, por meio do SDK de gerenciamento da vGPU.

NGC

NGC

O NVIDIA GPU Cloud (NGC) é um hub para software otimizado para GPU que simplifica os workflows para deep learning, machine learning e HPC, suportando agora ambientes virtualizados com o NVIDIA vCS.

Peer-to-Peer Computing

Computação Ponto-a-Ponto

O NVIDIA® NVLink ™ é uma interconexão direta de GPU para GPU de alta velocidade que fornece maior largura de banda, mais links e escalabilidade aprimorada para configurações de sistema com várias GPUs - agora suportada virtualmente com a tecnologia NVIDIA virtual GPU (vGPU).

ECC & Page Retirement

ECC & Desativação de Página

O código de correção de erros (ECC) e a desativação de página fornecem mais confiabilidade para aplicações de processamento sensíveis à corrupção de dados. Eles são especialmente importantes em ambientes de processamento em cluster de ampla escala, onde as GPUs processam conjuntos de dados muito grandes e/ou executam aplicativos por longos períodos.

RECOMENDAÇÕES DE GPU

  NVIDIA A100¹ NVIDIA V100S NVIDIA RTX 8000 NVIDIA RTX 6000 NVIDIA T4
Memória 40 GB HBM2 32 GB HBM2 48 GB GDDR6 24 GB GDDR6 16 GB GDDR6
Peak FP 32 19.5 TFLOPS 16.4 TFLOPS 14.9 TFLOPS 14.9 TFLOPS 8.1 TFLOPS
Peak FP 64 9.7 TFLOPS 8.2 TFLOPS - - -
NVLink: Número de GPUs por VM Até 8 Até 8 2 2 -
ECC e Desativação de Página
Multi-GPU por VM Até 16 Até 16 Até 16 Até 16 Até 16

PARCEIROS DE VIRTUALIZAÇÃO

PERGUNTAS FREQUENTES

SAIBA MAIS SOBRE O SOFTWARE DE GPU VIRTUAL NVIDIA

Veja as notas da versão do produto e os produtos de software de terceiros suportados.