NVIDIA HGX-2

Con la tecnología de las GPU NVIDIA Tesla V100 y NVSwitch

COMBINAR LA COMPUTACIÓN DE IA Y HPC EN UNA ARQUITECTURA UNIFICADA

Estamos en el comienzo de una nueva era de inteligencia, donde la IA y la computación de alto rendimiento (HPC) están transformando nuestro mundo. Desde los vehículos autónomos hasta las simulaciones climáticas globales, surgen nuevos desafíos que exigen enormes recursos de computación para resolverse. NVIDIA HGX-2 está diseñado para computación de precisión múltiple, que combina el poder de la computación científica de alta precisión con la velocidad de la computación AI de precisión reducida, para proporcionar una única plataforma flexible y poderosa para resolver estos desafíos masivos.

Lograr “la GPU más grande del mundo”

Acelerado por 16 NVIDIA® Tesla® V100 GPU y NVIDIA NVSwitch ™, HGX-2 tiene la potencia de cómputo, el ancho de banda y la topología de memoria sin precedentes para capacitar a estos modelos de manera más rápida y eficiente. Las 16 GPU Tesla V100 funcionan como un único acelerador unificado 2-petaFLOPs con medio terabyte (TB) de memoria de GPU total, lo que le permite manejar la mayoría de las cargas de trabajo computacionalmente intensivas y habilitar “la GPU más grande del mundo”.

Lograr la GPU más grande del mundo
Capacitación de AI: HGX-2 reemplaza 300 nodos de servidor solo de CPU

IMPULSA LA PRÓXIMA GENERACIÓN DE IA PARA LOGRAR UN RENDIMIENTO MÁS RÁPIDO>

Los modelos de IA están explotando en complejidad y requieren una gran memoria, múltiples GPU y una conexión extremadamente rápida entre las GPU para funcionar. Con NVSwitch conectando todas las GPU y la memoria unificada, HGX-2 proporciona la potencia para manejar estos nuevos modelos para un entrenamiento más rápido de IA avanzada. Un único HGX-2 reemplaza a 300 servidores con CPU, lo que ahorra costos, espacio y energía significativos en el Data Center.

HPC: HGX-2 reemplaza a 60 nodos de servidor solo de CPU

EL SUPERNODO DE HPC DE MÁS ALTO RENDIMIENTO

Las aplicaciones de HPC requieren nodos de servidor fuertes con la capacidad computación para realizar una gran cantidad de cálculos por segundo. Al aumentar de la densidad de computación de cada nodo, se reduce drásticamente la cantidad de servidores necesarios, lo que genera un gran ahorro en costos, energía y espacio consumidos en el Data Center. Para las simulaciones de HPC, la multiplicación de matrices de alta dimensión requiere que un procesador obtenga datos de muchos vecinos para facilitar el cálculo, lo que hace que las GPU conectadas por NVSwitch sean ideales. Un solo servidor HGX-2 reemplaza a 60 servidores solo de CPU.

NVSWITCH PARA COMPUTACIÓN DE BANDA ANCHA COMPLETA

NVSwitch permite que cada GPU se comunique con cualquier otra GPU con un ancho de banda completo de 2.4TB /seg para resolver los mayores problemas de IA y HPC. Cada GPU tiene acceso completo a 0.5TB de memoria agregada HBM2 para manejar los conjuntos de datos más masivos. Al habilitar un nodo de servidor unificado, NVSwitch acelera drásticamente las complejas aplicaciones de IA y HPC.

NVSwitch para la computación con ancho de banda completo

Especificaciones

HGX-1 HGX-2
Performance 1 petaFLOP tensor operations
125 teraFLOPS single-precision
62 teraFLOPS double-precision
2 petaFLOPS tensor operations
250 teraFLOPS single-precision
125 teraFLOPS double-precision
GPUs 8x NVIDIA Tesla V100 16x NVIDIA Tesla V100
GPU Memory 256GB total 512GB total
NVIDIA CUDA® Cores 40,960 81,920
NVIDIA Tensor Cores 5,120 10,240
Communication Channel Hybrid cube mesh powered by NVLink 300GB/s bisection bandwidth NVSwitch powered by NVLink 2.4TB/s bisection bandwidth

ARQUITECTURA DE REFERENCIA HGX-1

Desarrollado por NVIDIA Tesla GPU y NVLink

NVIDIA HGX-1 es una arquitectura de referencia que estandariza el diseño de Data Centers que aceleran la IA en la nube. Basado en ocho placas Tesla SXM2 V100, una topología híbrida de malla cúbica para escalabilidad y 1 petaFLOP de potencia de cómputo, su diseño modular funciona a la perfección en centros de datos de hiperescala y ofrece una ruta de acceso rápida y sencilla a la inteligencia artificial.

POTENCIAR EL ECOSISTEMA DEL DATA CENTER

NVIDIA se asocia con los fabricantes principales del mundo para avanzar rápidamente la computación en la nube de IA. NVIDIA proporciona placas base de la GPU HGX-2, las pautas de diseño y el acceso temprano a las tecnologías de computación GPU para que los socios se integren en los servidores y entreguen a escala a sus ecosistemas de Data Center.

Potenciar el ecosistema del centro de datos

REGÍSTRATE PARA RECIBIR NOTICIAS SOBRE LOS DATA CENTERS.

Obtenga información sobre lo último en la computación de alto rendimiento, Deep Learning e inteligencia artificial.