NVIDIA HGX-2 

Equipado con GPU NVIDIA Tesla V100 y NVSwitch

LA PLATAFORMA DE CÁLCULO DE PRECISIÓN MÚLTIPLE MÁS POTENTE DEL MUNDO PARA IA Y HPC

NVIDIA HGX-2 es la plataforma de servidor acelerada de escalado vertical más potente del mundo. Diseñado con computación de precisión mixta, acelera todas las cargas de trabajo para resolver estos enormes desafíos.  La plataforma HGX-2 se utilizó para batir récords en MLPerf, la primera prueba de referencia de IA de todo el sector, y ofrecer el mayor rendimiento de un solo nodo, lo que la ratifica como la plataforma de computación más potente, versátil y escalable del mundo.

Hoja de datos de HGX-2
Explora la avanzada tecnología de NVIDIA HGX-2 
Infografía de HGX-2
Más información sobre esta potente plataforma de servidores de nube

Habilitar “la GPU más grande del mundo”

Acelerada por 16 GPU NVIDIA® Tesla® V100 y NVIDIA NVSwitch™, HGX-2 tiene una potencia de cálculo, un ancho de banda y una topología de memoria sin precedentes capaces de entrenar estos modelos de forma más rápida y eficiente. Las 16 GPU Tesla V100 funcionan como un único acelerador de 2 petaflops con medio terabyte (TB) de memoria de la GPU total, permitiendo así gestionar las cargas de trabajo con uso intensivo de recursos informáticos y habilitar “la GPU más grande del mundo”.

Habilitar “la GPU más grande del mundo”

AI Training: HGX-2 Replaces 300 CPU-Only Server Nodes

Workload: ResNet50, 90 epochs to solution  | CPU Server: Dual-Socket Intel Xeon Gold 6140
|  Dataset: ImageNet2012  |

El camino de la próxima generación de IA hacia un rendimiento más acelerado

Los modelos de IA son cada vez más complejos y necesitan más memoria, varias GPU y una conexión lo más rápida posible entre ellas para que funcionen correctamente. Gracias a la memoria unificada de NVSwitch al conectar todas las GPU, HGX-2 proporciona la potencia necesaria para gestionar estos modelos nuevos con el fin de acelerar el entrenamiento de IA avanzada. Una única HGX-2 sustituye a 300 servidores potenciados por CPU, lo que ahorra dinero, espacio y energía en el centro de datos.

Machine Learning: HGX-2 544X Speedup Compared to CPU-Only Server Nodes

GPU Measurements Completed on DGX-2 | CPU: 20 CPU cluster- comparison is prorated to 1 CPU (61 GB of memory, 8 vCPUs, 64-bit platform), Apache Spark | US Mortgage Data Fannie Mae and Freddie Mac 2006-2017 | 146M mortgages | Benchmark 200GB CSV dataset | Data preparation includes joins, variable transformations

El camino de la nueva generación de IA hacia un rendimiento más acelerado

Los modelos de aprendizaje automático de IA requieren la carga, la transformación y el procesamiento de conjuntos de datos de enorme tamaño para poder extraer conclusiones. Con 0,5 TB de memoria unificada accesible con un ancho de banda de 16 TB/s y las comunicaciones de GPU entre todos los componentes con NVSwitch, HGX-2 cuenta con la potencia necesaria para cargar y realizar cálculos en vastos conjuntos de datos con el fin de obtener conclusiones prácticas rápidamente. Con ayuda del software de aprendizaje automático de código abierto RAPIDS, un único HGX-2 sustituye a 544 servidores basados en CPU, lo que genera significativos ahorros en costes y espacio.

HPC: HGX-2 Replaces up to 156 CPU-Only Server Nodes

Application(Dataset): SPECFEM3D(four material simple model), MILC(APEX Medium), and Chroma(szscl21_24_128) |
CPU Server: Dual-Socket Intel Xeon Gold 6140

El supernodo HPC con mayor rendimiento

Las aplicaciones HPC necesitan nodos de servidor potentes con la potencia de cálculo necesaria para realizar una gran cantidad de cálculos por segundo. Aumentar la densidad de cálculo de cada nodo reduce drásticamente la cantidad de servidores necesarios, lo que implica un ahorro de dinero, potencia y espacio en el centro de datos. Para las simulaciones HPC, la multiplicación matriz de alta dimensión necesita un procesador que obtenga los datos de varios procesadores próximos para facilitar los cálculos, lo que hace que la conexión de GPU de NVSwitch sea ideal. Un único servidor HGX-2 sustituye a 60 servidores de una sola CPU.

NVSwitch y los cálculos con todo el ancho de banda

NVSwitch permite que todas las GPU se comuniquen con el resto con un ancho de banda total de 2,4 TB/s para resolver los problemas de IA y HPC de mayor envergadura. Todas las GPU tienen acceso completo a 0,5 TB de memoria HBM2 agregada para encargarse de los conjuntos de datos más considerables. Al habilitar un nodo de servidores unificado, NVSwitch acelera drásticamente las aplicaciones IA y HPC complejas.

NVSwitch y los cálculos con todo el ancho de banda

En este diagrama de la topología de NVSwitch, se muestra la conexión entre dos GPU. Las 16 GPU se conectan a NVSwitch de la misma manera.

Especificaciones

HGX-1 HGX-2
Rendimiento 1 petaflop de operaciones tensoriales
125 teraflops de precisión sencilla
62 teraflops de doble precisión		 2 petaflops de operaciones tensoriales
250 teraflops de precisión sencilla
125 teraflops de doble precisión
GPU 8 NVIDIA Tesla V100 16 NVIDIA Tesla V100
Memoria de la GPU 256 GB en total 512 GB en total
Núcleos NVIDIA CUDA® 40 960 81 920
Núcleos Tensor Core de NVIDIA 5120 10 240
Canal de comunicación Malla de cubo híbrida con la potencia del ancho de banda de bisección de 300 GB/s de NVLink NVSwitch con la potencia del ancho de banda de bisección de 2,4 TB/s de NVLink

Arquitectura de referencia HGX-1

Equipado con GPU NVIDIA Tesla y NVLink

NVIDIA HGX-1 ofrece una arquitectura de referencia que ha normalizado el diseño de la aceleración de IA en la nube de los centros de datos. Con una base de ocho tarjetas Tesla SXM2 V100, una topología en malla de cubo híbrida por la escalabilidad y 1 petaflop de potencia de cálculo, el diseño modular funciona sin problemas en centros de datos a hiperescala y ofrece una ruta rápida y sencilla hacia la IA.

Potenciar el ecosistema de los centros de datos

NVIDIA colabora con los principales fabricantes del mundo para avanzar rápidamente en el mundo del cálculo de IA en la nube. NVIDIA provee tarjetas GPU HGX-2, directrices de diseño y acceso anticipado a las tecnologías de computación por GPU a sus partners para que las integren en los servidores y las presenten a gran escala en los ecosistemas de sus centros de datos.

Potenciar el ecosistema de los centros de datos

VER LA LISTA COMPLETA DE SERVIDORES CERTIFICADOS PARA NVIDIA TESLA.

Regístrate para recibir noticias sobre centros de datos.

Conoce lo más avanzado en computación de alto rendimiento, deep learning e inteligencia artificial.

Suscríbete ahora

Reciba la información más actualizada de NVIDIA sobre centros de datos

Productos
Tecnologías
Recursos