NVIDIA DGX GB200
La fábrica de IA creada específicamente para modelos de IA de vanguardia.
Infraestructura Empresarial Essencial para la IA
NVIDIA DGX™ GB200 está diseñada específicamente para el entrenamiento y la inferencia de modelos de IA generativa con billones de parámetros. Cada rack con refrigeración líquida, diseñado como una solución a escala de rack, cuenta con 36 superchips NVIDIA GB200 Grace Blackwell(36 CPU NVIDIA Grace y 72 GPU Blackwell) conectados como uno con NVIDIA NVLink™. Se pueden conectar múltiples racks con NVIDIA Quantum InfiniBand para escalar hasta cientos de miles de Superchips GB200.
Beneficios
Infraestructura para Fábricas de IA Lista para Usar
Especificaciones
Especificaciones de NVIDIA DGX GB200
| GPU | 72 GPU NVIDIA Blackwell, 36 CPU NVIDIA Grace |
| Núcleos de CPU | 2,592 núcleos Arm® Neoverse V2 |
| Memoria de GPU | Ancho de Banda | Hasta 13.4 TB HBM3e | 576 TB/s |
| Memoria Rápida Total | 30.2 TB |
| Desempeño | FP4 Tensor Core: 1,440 PFLOPS | 720 PFLOPS* FP8/FP6 Tensor Core: 720 PFLOPS | 360 PFLOPS* |
| Interconexión | 72 OSFP NVIDIA ConnectX®-7 VPI de un solo puerto con NVIDIA InfiniBand de 400 Gb/s 36 NVIDIA BlueField®-3 VPI de doble puerto con NVIDIA InfiniBand y Ethernet de 200 Gb/s |
| Sistema de Conmutadores NVLink de NVIDIA | 9 Conmutadores L1 NVLink de NVIDIA |
| Red de Administración | Controlador de administración de placa base de host (BMC) con RJ45 |
| Software | NVIDIA Mission Control NVIDIA AI Enterprise NVIDIA DGX OS / Ubuntu |
| Asistencia Empresarial | Asistencia de tres años para hardware y software empresarial estándar |
|
*Especificación que se muestra en disperso | denso. |
|
Recursos
Ofrecemos Fábricas de IA a Cada Empresa
NVIDIA DGX SuperPOD
NVIDIA DGX SuperPOD™ es una solución de infraestructura lista para usarse para data centers de IA que ofrece un desempeño sin concesiones para cada usuario y carga de trabajo. DGX SuperPOD, que se puede configurar con cualquier sistema DGX, proporciona una infraestructura acelerada de primera clase con desempeño escalable para las cargas de trabajo de entrenamiento e inferencia de IA más exigentes, con resultados avalados por la industria, lo que permite que TI proporcione un desempeño sin concesiones.
Presentamos NVIDIA Mission Control
NVIDIA Mission Control optimiza las operaciones de las fábricas de IA, desde las cargas de trabajo hasta la infraestructura, con experiencia y conocimiento de nivel internacional que se suministran como software. Impulsa los data centers NVIDIA Blackwell y aporta una agilidad instantánea para la inferencia y el entrenamiento, a la vez que proporciona inteligencia de pila completa para la resiliencia de la infraestructura. Todas las empresas pueden ejecutar la IA con eficiencia a hiperescala, lo que simplifica y acelera la experimentación con IA.
Maximice el Valor de la Plataforma NVIDIA DGX
Los Servicios Empresariales de NVIDIA proporcionan asistencia, capacitación y especialistas en infraestructura para su infraestructura NVIDIA DGX. Con expertos de NVIDIA disponibles en cada paso de su recorrido por la IA, los Servicios Empresariales pueden ayudarle a poner en marcha sus proyectos de forma rápida y exitosa.
Comenzar