GPU NVIDIA A30
Tensor Core

Modelos de treinamento de AI para desafios complexos, como os de AI de conversação, exigem muita potência computacional e escalabilidade.

Os Tensor Cores com Tensor Float (TF32) da NVIDIA A30 proporcionam um desempenho até 10 vezes maior em relação à NVIDIA T4 com nenhuma alteração no código e um aumento adicional de 2 vezes com precisão mista automática e FP16, oferecendo um rendimento total 20 vezes superior. Com a NVIDIA^®NVLink^®, o PCIe de 4ª geração, a networking NVIDIA Mellanox^® e o SDK NVIDIA Magnum IO™, é possível dimensionar para milhares de GPUs.

Com os Tensor Cores e a MIG, é possível usar a A30 para executar cargas de trabalho dinamicamente ao longo do dia. Ela pode ser usada para tarefas de inferência de produção com demanda máxima, e parte da GPU pode ser reaproveitada para treinar esses mesmos modelos em horários de demanda normal com rapidez.

A NVIDIA registrou vários recordes de desempenho no MLPerf, o benchmark do setor para treinamento de AI.

Saiba mais sobre a arquitetura NVIDIA Ampere para treinamento ›

Para realizar descobertas revolucionárias, os cientistas recorrem às simulações para entender melhor o mundo a seu redor.

A NVIDIA A30 apresenta Tensor Cores de FP64 da arquitetura NVIDIA Ampere, que proporcionam o melhor desempenho de HPC desde o lançamento das GPUs. Com memória de GPU de 24GB e largura de banda de 933GB/s, os pesquisadores podem resolver cálculos de precisão dupla rapidamente. As aplicações de HPC também podem usar o TF32 para obter um rendimento mais alto em operações densas de multiplicação de matrizes de precisão simples.

Com Tensor Cores de FP64 e a MIG, os institutos de pesquisa podem particionar a GPU com segurança para oferecer a vários pesquisadores acesso a recursos de computação com QoS garantida e utilização máxima da GPU. As empresas que implementam AI podem usar os recursos de inferência da A30 nos períodos de demanda máxima e reaproveitar os servidores de computação para cargas de trabalho de HPC e treinamento de AI nos períodos de demanda normal.

Saiba mais sobre a arquitetura NVIDIA Ampere para HPC ›

A A30 com a MIG maximiza o uso da infraestrutura acelerada por GPU. Com a MIG, é possível particionar uma GPU A30 em até quatro instâncias independentes, oferecendo a vários usuários acesso à aceleração por GPU.

A MIG funciona com Kubernetes, contêineres e virtualização de servidores baseada em hipervisor. Com ela, os gerentes de infraestrutura podem oferecer uma GPU do tamanho certo com QoS garantida para cada tarefa, ampliando o alcance dos recursos de computação acelerada para todos os usuários.

Saiba mais sobre a MIG ›