Configuración de una nueva barra en MLPerf

Las soluciones de entrenamiento e inferencia de NVIDIA ofrecen un rendimiento sin precedentes en MLPerf, la prueba de referencia líder del sector para rendimiento de IA.

Ver nuestros resultados

¿Qué es MLPerf?

MLPerf es un consorcio de directivos de IA procedentes del ámbito académico, laboratorios de investigación y el sector industrial cuya misión es “crear pruebas de referencia útiles y razonables” que ofrezcan evaluaciones no sesgadas del entrenamiento y la inferencia para hardware, software y servicios, todo lo cual se realiza bajo las condiciones prescritas. Para mantenerse a la vanguardia de las tendencias del sector, MLPerf sigue evolucionando, con la realización de nuevas pruebas a intervalos regulares y la adición de nuevas cargas de trabajo que representan lo último en IA.

Categorías de presentación de MLPerf

MLPerf Training v0.7 es la tercera instancia del entrenamiento y consta de ocho cargas de trabajo diferentes que cubren una amplia diversidad de casos de uso, como, por ejemplo, visión, lenguaje, recomendaciones y aprendizaje de refuerzo.

MLPerf Inference v1.0 probó siete casos de uso diferentes en siete tipos diferentes de redes neuronales. Tres de estos casos de uso fueron de visión computarizada, uno para sistemas recomendados, dos para el procesamiento lingüístico y otro para la creación de imágenes médicas.

Clasificación de imágenes

Clasificación de imágenes

Asigna una etiqueta de un conjunto fijo de categorías a una imagen de entrada, es decir, se aplica a problemas de visión computarizada como vehículos autónomos. Más información.

Detección de objetos (ligera)

Detección de objetos (ligera)

Busca instancias de objetos del mundo real, como caras, bicicletas y edificios, en imágenes o vídeos, y especifica un cuadro delimitador alrededor de cada uno. Más información.

Detección de objetos (pesada)

Detección de objetos (pesada)

Detecta distintos objetos de interés que aparecen en una imagen e identifica una máscara de píxeles para cada uno. Más información.

Traducción (recurrente)

Traducción (recurrente)

Traduce texto de un idioma a otro mediante una red neuronal recurrente (RNN). Más información.

Traducción (no recurrente)

Traducción (no recurrente)

Traduce el texto de un idioma a otro mediante una red neuronal de avance de alimentación. Más información.

Procesamiento del lenguaje natural (PLN)

Procesamiento del lenguaje natural (PLN)

Entiende el texto mediante la relación entre las distintas palabras de un bloque de texto. Permite responder a preguntas, parafrasear oraciones y muchos otros casos de uso relacionados con el idioma. detalles.

Recomendación

Recomendación

Ofrece resultados personalizados en servicios de contacto entre usuarios, como redes sociales o sitios web de comercio electrónico, al comprender las interacciones entre usuarios y servicios, como los productos o los anuncios. Más información.

Aprendizaje de refuerzo

Aprendizaje de refuerzo

Evalúa distintas acciones posibles para maximizar el uso del juego de estrategia Go en una cuadrícula de 19x19. Más información.

Resultados de las pruebas de referencia de MLPerf de NVIDIA

  • Entrenamiento

    Entrenamiento

  • Inferencia

    Inferencia

La GPU NVIDIA A100 Tensor Core y NVIDIA DGX SuperPOD™ establecieron los 16 récords de rendimiento de entrenamiento, tanto en cargas de trabajo por chip como a escala, para los sistemas disponibles en el mercado. Este innovador rendimiento se debe a la estrecha integración del hardware, el software y las tecnologías de nivel de sistema. La inversión continua de NVIDIA en rendimiento de pila completa se ha traducido en una mejora en el rendimiento en las tres presentaciones MLPerf.

HASTA 4 VECES EL RENDIMIENTO EN 1,5 AÑOS DE MLPERF

La completa innovación de la pila de NVIDIA ofrece mejoras continuas

HASTA 4 VECES EL RENDIMIENTO EN 1,5 AÑOS DE MLPERF

Comparación del rendimiento de un solo servidor DGX-1V en una única época y DGX A100 (pase único del conjunto de datos a través de la red neuronal) | Comparación de MLPerf ID 0.5/0.6/0.7: ResNet-50 v1.5: 0.5-12, /0.6-8 /0.7-39, 0.7-18 | SSD: 0.5-13/0.6-9 /0.7-40, 0.719 | GNMT: 0.5-13/0.6-9 /0.7-40 0.7-19 | Mask R-CNN: 0.5-13/0.6-9 /0.7-40 0.7-19 | Transformer: 0.5-13/0.6-9 0.7-40, 0.7-19. El nombre y el logotipo de MLPerf son marcas comerciales. Consulta www.mlperf.org para obtener más información.

NVIDIA establece los 16 récords

Para soluciones disponibles en el mercado

  Récords de Max Scale Récords de Per Accelerator
Recomendación (DLRM) 3,33 m 0,44 h
NLP (BERT) 0,81 m 6,53 h
Aprendizaje de refuerzo (MiniGo) 17,07 m 39,96 h
Traducción (no recurrente) (Transformer) 0,62 m 1,05 h
Traducción (recurrente) (GNMT) 0,71 m 1,04 h
Detección de objetos (pesada) (Mask R-CNN) 10,46 m 10,95 h
Detección de objetos (ligera) (SSD) 0,82 m 1,36 h
Clasificación de imágenes (ResNet-50 v1.5) 0,76 m 5,30 h

Al rendimiento por chip se llegó comparando el rendimiento en la misma escala cuando fue posible. Comparación de Per Accelerator según el rendimiento de MLPerf 0,7 NVIDIA A100 (8x A100s). MLPerf ID DLRM: 0.7-17, ResNet50 v1.5: 0.7-18, 0.7-15 BERT, GNMT, Mask R-CNN, SSD, Transformer: 07-19, MiniGo: 0.7-20. Escala máxima: todos los resultados de MLPerf v0.7 con NVIDIA DGX A100 (8x A100s). MLPerf ID Max Scale: ResNet-50 v1.5: 0.7-37, Mask R-CNN: 0.7-28, SSD: 0.7-33, GNMT: 0.7-34, Transformer: 0.7-30, MiniGo: 0.7-36, BERT: 0.7-38, DLRM: 0.7-17. | El nombre y el logotipo de MLPerf son marcas comerciales. Consulta www.mlperf.org para obtener más información.

NVIDIA obtuvo los mejores resultados de rendimiento en todos los escenarios (servidor de centro de datos y sin conexión, así como en una sola secuencia de periferia, varias secuencias y sin conexión). Además, ofrecimos el mejor rendimiento por acelerador entre los productos probados en todas las pruebas de referencia. Estos resultados son un testimonio no solo del liderazgo en rendimiento de inferencia de NVIDIA, sino también de la versatilidad de nuestra plataforma de inferencia.

Escenario de centro de datos y perímetro (GPU única)

  NVIDIA A100
(Inferencias por segundo)		 NVIDIA A30
(Inferencias por segundo)		 NVIDIA A40
(Inferencias por segundo)		 NVIDIA® Jetson Xavier™
(Inferencias máximas por consulta)
DLRM
(Recomendación)		 307,788 133,439 96,547 N/A*
BERT
(Procesamiento de lenguaje natural)		 3543 1658 1057 92
ResNet-50 v1.5
(Clasificación de imágenes)		 38,110 17,690 13,210 2072
ResNet-34
(Detector de capturas únicas grandes)		 985 470 312 57
RNN-T
(Reconocimiento de voz)		 13,210 6461 4515 433
3D U-net
(Imágenes médicas)		 60 30 22 3

* DLRM no forma parte del conjunto de categoría en la periferia

1) Resultados de MLPerf Inference v1.0 para formatos de servidor de centro de datos y escenarios de servidor y sin conexión recuperados de www.mlperf.org el 21 de abril del 2021. El rendimiento por procesador se calcula dividiendo la métrica principal del rendimiento total por el número de aceleradores notificados.
2) Resultados de MLPerf Inference v1.0 para los formatos de perímetro y los escenarios de streaming único y múltiple recuperados de www.mlperf.org el 21 de abril del 2021.

1) Resultados de MLPerf Inference v1.0 para formatos de servidor de centro de datos y escenarios de servidor y sin conexión recuperados de www.mlperf.org el 21 de abril del 2021, desde las entradas Inf-1.0-37, Inf-1.0-63 e Inf-1.0-65. El rendimiento por procesador se calcula dividiendo la métrica principal del rendimiento total por el número de aceleradores notificados.
2) Resultados de MLPerf Inference v1.0 para los formatos de perímetro y el escenario sin conexión recuperados de www.mlperf.org el 21 de abril del 2021, desde las entradas Inf-1.0-25.

La tecnología detrás de los resultados

La complejidad de la inteligencia artificial exige una estrecha integración entre todos los aspectos de la plataforma. Como se ha demostrado en las pruebas de referencia de MLPerf, la plataforma de IA de NVIDIA ofrece un rendimiento de liderazgo con la GPU más avanzada del mundo, tecnologías de interconexión potentes y escalables, y software de vanguardia: una solución integral que se puede implementar en el centro de datos, en la nube o en el perímetro con resultados increíbles.

Software optimizado que acelera los flujos de trabajo de IA

Software optimizado que acelera los flujos de trabajo de IA

NGC™, componente esencial de los resultados de entrenamiento e inferencia MLPerf y la plataforma de NVIDIA, es un centro de IA optimizado para GPU, computación de alto rendimiento (HPC) y software de análisis de datos que simplifica y acelera los flujos de trabajo de extremo a extremo. Con más de 150 contenedores de nivel empresarial, que incluyen cargas de trabajo para IA conversacional y sistemas de recomendación, más de 100 modelos y SDK específicos del sector que se pueden implementar en el entorno local, en la nube o en el perímetro, NGC permite que los científicos, los investigadores y los desarrolladores de datos creen las mejores soluciones de su clase, recopilen información y aporten valor a la empresa más rápido que nunca.

VISITA NGC

Infraestructura de IA de nivel de liderazgo

La consecución de resultados de primer nivel en el entrenamiento y las inferencias requiere una infraestructura diseñada expresamente para los desafíos más complejos del mundo. La plataforma IA de NVIDIA se ofrece con la potencia de la GPU NVIDIA A100 Tensor Core, la GPU A30 Tensor Core de NVIDIA, la GPU NVIDIA A10 Tensor Core, y la escalabilidad y flexibilidad de las tecnologías de interconexión de NVIDIA, NVIDIA NVLink®, NVIDIA NVSwitch™ y NVIDIA ConnectX®-6 VPI. Estos se encuentran en el centro de NVIDIA DGX™ A100, el motor que respalda nuestra prueba de referencia de rendimiento.

Los sistemas NVIDIA DGX™ ofrecen la escalabilidad, la rápida implementación y una increíble capacidad de cálculo que permite a todas las empresas crear infraestructuras de IA de nivel de liderazgo.

MÁS INFORMACIÓN
Infraestructura de IA de nivel de liderazgo

Obtén más información sobre el rendimiento del producto de entrenamiento e inferencia de nuestro centro de datos.

Ver el rendimiento
Clasificación de imágenes

Clasificación de imágenes

El entrenamiento y la inferencia de MLPerf utilizó ResNet v1.5 con el conjunto de datos ImageNet.
La inferencia de MLPerf utilizó ResNet-50 v.1.5 y MobileNet-v1 con el conjunto de datos ImageNet.
Detección de objetos (ligera)

Detección de objetos (ligera)

El entrenamiento de MLPerf utilizó Single-Shot Detector (SSD) en el conjunto de datos COCO.
MLPerf Inference utilizó SSD-MobileNet-v1 (baja resolución, 0,09 MP), con el conjunto de datos de COCO.
Detección de objetos (pesada)

Detección de objetos (pesada)

El entrenamiento de MLPerf utilizó Mask R-CNN en el conjunto de datos COCO.
MLPerf Inference utilizó SSD-ResNet-34 (alta resolución, 1,44 MP) con el conjunto de datos de COCO.
Traducción (recurrente)

Traducción (recurrente)

MLPerf usó el sistema de traducción automática (GNMT) de Google en el conjunto de datos inglés-alemán WMT.
La inferencia de MLPerf utilizó la RNN de traducción automática neuronal de Google (GNMT) con el conjunto de datos WMT16.
Traducción (no recurrente)

Traducción (no recurrente)

MLPerf utilizó Transformer en el conjunto de datos inglés-alemán WMT.
MLPerf Inference midió el reconocimiento de voz mediante la red RNN-T con el conjunto de datos de LibriSpeech.
Procesamiento del lenguaje natural (PLN)

Procesamiento del lenguaje natural (PLN)

MLPerf utilizó Bidirectional Encoder Representations from Transformers (BERT) en el conjunto de datos Wikipedia del 01/01/2020.
MLPerf Inference utilizó BERT con el conjunto de datos SQuAD v. 1.1.
Recomendación

Recomendación

MLPerf utilizó el modelo de recomendación de aprendizaje profundo (DLRM) en el conjunto de datos de registros de clic de 1 TB.
MLPerf Inference utilizó la red DLRM con el conjunto de datos de Criteo Terabyte.
Aprendizaje de refuerzo

Aprendizaje de refuerzo

MLPerf utilizó MiniGo basado en el conjunto de datos Go.
PRODUCTOS
TECNOLOGÍAS
Software
RECURSOS