Definindo um Novo Parâmetro no MLPerf

As soluções de treinamento e inferência da NVIDIA entregam desempenho recorde no MLPerf, a referência líder do setor para desempenho de AI

VEJA NOSSOS RESULTADOS

O que é o MLPerf?

O MLPerf é um consórcio entre líderes de AI do meio acadêmico, dos laboratórios de pesquisa e da indústria cuja missão é "criar referências justas e úteis" que proporcionem avaliações imparciais de desempenho de treinamento e inferência para hardware, software e serviços — tudo isso feito sob condições prescritas. Para permanecer na vanguarda das tendências do setor, o MLPerf continua evoluindo e realiza novos testes em intervalos regulares.

CATEGORIAS DE ENVIO DO MLPERF

MLPerf Training v0.7 é a terceira instanciação para treinamento e consistia em oito diferentes cargas de trabalho cobrindo uma ampla diversidade de casos de uso, incluindo visão, linguagem, recomendadores e aprendizado por reforço.

O MLPerf Inference v1.0 testou cinco casos de uso diferentes em sete tipos diferentes de redes neurais. Três desses casos de uso foram para visão computacional, um para sistemas de recomendação, dois para processamento de linguagem e um para imagens médicas.

Classificação de Imagens

Classificação de Imagens

Atribui um rótulo de um conjunto fixo de categorias a uma imagem de entrada, isto é, aplica-se a problemas de visão computacional, como veículos autônomos. Mais detalhes.

Detecção de Objetos (Leve)

Detecção de Objetos (Leve)

Localiza instâncias de objetos do mundo real, como rostos, bicicletas e construções, em imagens ou vídeos e especifica uma caixa delimitadora em torno de cada uma. Mais detalhes.

Detecção de Objetos (Pesado)

Detecção de Objetos (Pesado)

Detecta objetos de interesse distintos que aparecem em uma imagem e identifica uma máscara de pixel para cada um. Mais detalhes.

Tradução (Recorrente)

Tradução (Recorrente)

Traduz texto de um idioma para outro usando uma rede neural recorrente (RNN). Mais detalhes.

Tradução (Não recorrente)

Tradução (Não recorrente)

Traduz texto de um idioma para outro usando uma rede neural de feed-forward. Mais detalhes.

Processamento de Linguagem Natural (PNL)

Processamento de Linguagem Natural (PNL)

Entende o texto usando o relacionamento entre palavras diferentes em um bloco de texto. Permite responder perguntas, parafrasear frases e muitos outros casos de uso relacionados ao idioma. Mais detalhes.

Recomendação

Recomendação

Oferece resultados personalizados em serviços voltados ao usuário, como mídias sociais ou sites de comércio eletrônico, entendendo as interações entre usuários e itens de serviço, como produtos ou anúncios. Mais detalhes.

Aprendizagem por Reforço

Aprendizagem por Reforço

Avalia diferentes ações possíveis para maximizar a recompensa usando o jogo de estratégia Go jogado em uma grade de 19x19. Mais detalhes.

RESULTADOS DO BENCHMARK MLPERF DA NVIDIA

  • Treinamento

    Treinamento

  • Inferência

    Inferência

A GPU NVIDIA A100 Tensor Core e o NVIDIA DGX SuperPOD™ estabeleceram todos os 16 recordes de desempenho de treinamento, tanto em cargas de trabalho por chip quanto em escala para sistemas disponíveis comercialmente. Esse desempenho inovador veio da forte integração de hardware, software e tecnologias no nível do sistema. O investimento contínuo da NVIDIA em desempenho full-stack levou a uma melhoria na taxa de transferência em relação aos três envios de MLPerf.

ATÉ 4 VEZES MAIS DESEMPENHO EM 1,5 ANOS DE MLPERF

A Inovação Full Stack da NVIDIA Fornece Melhorias Contínuas

UP TO 4X THE PERFORMANCE IN 1.5 YEAR​S OF MLPERF

Comparando a taxa de transferência de um único servidor DGX-1V em uma única época e o DGX A100 (passagem única do conjunto de dados pela rede neural) | Comparação MLPerf ID 0.5 / 0.6 / 0.7: ResNet-50 v1.5: 0.5-12, /0.6-8 /0.7-39, 0.7-18 | SSD: 0,5-13 / 0,6-9 / 0,7-40, 0,719 | GNMT: 0.5-13 / 0.6-9 /0.7-40 0.7-19 | Máscara R-CNN: 0,5-13 / 0,6-9 / 0,7-40 0,7-19 | Transformador: 0,5-13 / 0,6-9 0,7-40, 0,7-19. O nome e o logotipo MLPerf são marcas comerciais. Veja www.mlperf.org para mais informações.

NVIDIA ESTABELECE TODOS OS 16 RECORDES

Para Soluções Comercialmente Disponíveis

  Recorde de Escala Máxima Recorde por Acelerador
Recomendação (DLRM) 3.33 min 0.44 hrs
NLP (BERT) 0.81 min 6.53 hrs
Aprendizagem por Reforço (MiniGo) 17.07 min 39.96 hrs
Tradução (Não recorrente) (Transformador) 0.62 min 1.05 hrs
Tradução (Recorrente) (GNMT) 0.71 min 1.04 hrs
Detecção de Objeto (Pesado) (Máscara R-CNN) 10.46 min 10.95 hrs
Detecção de Objeto (Leve) (SSD) 0.82 min 1.36 hrs
Classificação de Imagem (ResNet-50 v1.5) 0.76 min 5.30 hrs

O desempenho por chip chegou comparando o desempenho na mesma escala, quando possível. Comparação por acelerador usando desempenho relatado para o MLPerf 0.7 NVIDIA A100 (8x A100s). MLPerf ID DLRM: 0,7-17, ResNet50 v1,5: 0,7-18, 0,7-15 BERT, GNMT, máscara R-CNN, SSD, transformador: 07-19, MiniGo: 0,7-20. Escala máxima: todos os resultados do MLPerf v0.7 usando o NVIDIA DGX A100 (8x A100s). MLPerf ID Escala máxima: ResNet-50 v1.5: 0.7-37, Máscara R-CNN: 0.7-28, SSD: 0.7-33, GNMT: 0.7-34, Transformador: 0.7-30, MiniGo: 0.7-36, BERT : 0,7-38, DLRM: 0,7-17. | O nome e o logotipo MLPerf são marcas comerciais. Veja www.mlperf.org para mais informações.

A NVIDIA obteve os melhores resultados em todos os cinco cenários (servidor de data center e offline, bem como stream único no edge, multi-stream e offline). Além disso, fornecemos o melhor desempenho por acelerador entre todos os produtos testados em todos os cinco testes de benchmark. Esses resultados são uma prova não apenas da liderança em desempenho de inferência da NVIDIA, mas também da versatilidade de nossa plataforma de inferência.

CENÁRIO DE SERVIDOR PARA DATA CENTER E EDGE

  NVIDIA A100
(Inferências/Segundo)		 NVIDIA A30
(Inferências/Segundo)		 NVIDIA A10
(Inferências/Segundo)		 NVIDIA® Jetson Xavier™
(Inferências Máximas/consulta)
DLRM
(Recomendador)		 307,788 133,439 96,547 N/A*
BERT
(Processamento de Linguagem Natural)		 3,543 1,658 1,057 92
ResNet-50 v1.5
(Classificação de Imagens)		 38,110 17,690 13,210 2,072
ResNet-34
(Detector Grande de Disparo Único)		 985 470 312 57
RNN-T
(Reconhecimento de Voz)		 13,210 6,461 4,515 433
3D U-Net
(Imagens Médicas)		 60 30 22 3

* DLRM não faz parte do pacote de categoria Edge

1) Resultados de inferência MLPerf v1.0 para fatores de forma de servidor de data center e cenários offline e de servidor recuperados de www.mlperf.org em 21 de abril de 2021. O desempenho por processador é calculado dividindo a métrica primária de desempenho total pelo número de aceleradores relatados.
2) Resultados de inferência MLPerf v1.0 para formato de edge e cenários de fluxo único e multi-fluxo recuperados de www.mlperf.org em 21 de abril de 2021.

1) Resultados de inferência MLPerf v1.0 para formatos de servidor de data center e cenários offline e de servidor recuperados de www.mlperf.org em 21 de abril de 2021, das entradas Inf-1.0-37, Inf-1.0-63, Inf-1.0- 65, O desempenho por processador é calculado dividindo a métrica principal de desempenho total pelo número de aceleradores relatados.
2) Resultados de inferência MLPerf v1.0 para formatos de edge e cenário offline recuperados de www.mlperf.org em 21 de abril de 2021, a partir das entradas Inf-1.0-25.

A Tecnologia por Trás dos Resultados

A complexidade da AI exige uma integração estreita entre todos os aspectos da plataforma. Conforme demonstrado nos benchmarks do MLPerf, a plataforma de AI da NVIDIA oferece desempenho de liderança com a GPU mais avançada do mundo, tecnologias de interconexão poderosas e escalonáveis e software de ponta, uma solução ponta a ponta que pode ser implantada no data center, no cloud ou no edge com resultados surpreendentes.

Software Otimizado que Acelera os Workflows da AI

Software Otimizado que Acelera os Workflows da AI

Um componente essencial dos resultados de inferência e treinamento da NVIDIA no MLPerf, a NGC™ é uma central para AI otimizada por GPU, computação de alto desempenho (HPC) e software de análise de dados — incluindo a CUDA-X — que simplifica e acelera workflows de ponta a ponta. Com mais de 150 contêineres de nível corporativo, mais de 100 modelos e SDKs específicos do setor que podem ser implantados localmente, no cloud ou no edge, o NGC permite que cientistas de dados, pesquisadores e desenvolvedores criem as melhores soluções do mercado, coletem informações e ofereçam um valor comercial mais rápido do que nunca.

ACESSE A NGC

Infraestrutura Líder de AI

Para alcançar resultados de liderança mundial em treinamento e inferência, há a necessidade de uma infraestrutura desenvolvida para os desafios de AI mais complexos do mundo. A plataforma NVIDIA AI entregue usando o poder da GPU NVIDIA A100 Tensor Core, a GPU NVIDIA A30 Tensor Core, a GPU NVIDIA A10 Tensor Core e a escalabilidade e flexibilidade das tecnologias de interconexão NVIDIA: NVIDIA NVLink®, NVIDIA NVSwitch™ e NVIDIA ConnectX®-6 VPI. Eles estão no coração do NVIDIA DGX™ A100, o motor por trás de nosso desempenho de referência.

Os sistemas NVIDIA DGX™ oferecem escalabilidade, implantação rápida e incrível poder de computação que pode permitir que todas as empresas construam uma infraestrutura de AI de classe de liderança.

SAIBA MAIS
Infraestrutura Líder de AI

Saiba mais sobre nosso treinamento em data center e desempenho do produto de inferência.

VEJA O DESEMPENHO
Classificação de Imagens

Classificação de Imagens

MLPerf Training used ResNet v1.5 with the ImageNet dataset.
O Treinamento e a Inferência do MLPerf usaram o ResNet v1.5 com o conjunto de dados ImageNet.
Detecção de Objetos (Leve)

Detecção de Objetos (Leve)

MLPerf Training used Single-Shot Detector (SSD) on the COCO dataset.
A Inferência do MLPerf usou SSD-MobileNet-v1 (baixa resolução, 0,09 MP), com o conjunto de dados COCO.
Detecção de Objetos (Pesado)

Detecção de Objetos (Pesado)

MLPerf Training used Mask R-CNN on the COCO dataset.
A Inferência do MLPerf usou SSD-ResNet-34 (alta resolução, 1,44 MP) com o conjunto de dados COCO.
Tradução (Recorrente)

Tradução (Recorrente)

MLPerf used Google’s Machine Translation System (GNMT) on the WMT English-German dataset.
MLPerf Inference used the Google Neural Machine Translation (GNMT) RNN with the WMT16 dataset.
Tradução (Não recorrente)

Tradução (Não recorrente)

MLPerf used Transformer on the WMT English-German dataset.
A Inferência do MLPerf mediu o reconhecimento de fala usando a rede RNN-T com o conjunto de dados LibriSpeech.
Processamento de Linguagem Natural (PNL)

Processamento de Linguagem Natural (PNL)

MLPerf used Bidirectional Encoder Representations from Transformers (BERT) on the Wikipedia 2020/01/01 dataset.
A Inferência do MLPerf usou BERT com o conjunto de dados SQuAD v.1.1.
Recomendação

Recomendação

MLPerf used the Deep Learning Recommendation Model (DLRM) on 1 TB Click Logs dataset.
A Inferência do MLPerf usou a rede DLRM com o conjunto de dados Criteo Terabyte.
Aprendizagem por Reforço

Aprendizagem por Reforço

MLPerf used Mini Go based on the Go dataset.
Produtos
Tecnologias
Software
Recursos