A fábrica de IA criada especificamente para modelos de IA de ponta.
NVIDIA DGX GB200 foi criada especificamente para treinamento e inferência de modelos de IA generativa de trilhões de parâmetros. Projetada como uma solução em escala de rack, cada rack com resfriamento líquido possui 36 Superchips NVIDIA GB200 Grace Blackwell, 36 CPUs NVIDIA Grace e 72 GPUs Blackwell unidos ao NVIDIA NVLink™. Vários racks podem ser conectados ao NVIDIA Quantum InfiniBand para escalar até centenas de milhares de Superchips GB200.
Benefícios
Especificações
| GPU | 72 GPUs NVIDIA Blackwell, 36 CPUs NVIDIA Grace |
| Núcleos da CPU | 2.592 núcleos Arm® Neoverse V2 |
| Memória da GPU | Largura de Banda | Até 13,4 TB HBM3e | 576 TB/s |
| Memória Rápida Total | 30,2 TB |
| Desempenho | Núcleo tensor FP4: 1.440 PFLOPS | 720 PFLOPS* Núcleo tensor FP8/FP6: 720 PFLOPS | 360 PFLOPS* |
| Interconexão | 72x OSFP de porta única NVIDIA ConnectX®-7 VPI com 400 Gb/s de NVIDIA InfiniBand 36x de porta dupla NVIDIA BlueField®-3 VPI com 200 Gb/s de NVIDIA InfiniBand e Ethernet |
| Sistema de Switch NVIDIA NVLink | 9x Switches NVIDIA NVLink L1 |
| Rede de Gerenciamento | Controlador de gerenciamento da placa base do host (BMC) com RJ45 |
| Software | NVIDIA Mission Control IA da NVIDIA Enterprise NVIDIA DGX OS / Ubuntu |
| Suporte Empresarial | Suporte de hardware e software padrão empresarial de três anos |
|
*Especificação mostrada em sparse | dense. |
|
Recursos
O NVIDIA DGX SuperPOD™ é uma solução de infraestrutura de data center com IA pronta para implantação que oferece desempenho excepcional para todos os usuários e cargas de trabalho. Configurável com qualquer sistema DGX, a DGX SuperPOD fornece infraestrutura acelerada de primeira classe com desempenho escalável para as cargas de trabalho de treinamento e inferência de IA mais exigentes, com resultados comprovados do setor, permitindo que a TI ofereça desempenho sem comprometimentos.
O NVIDIA Mission Control simplifica as operações de IA, desde cargas de trabalho até a infraestrutura, com experiência de nível mundial entregue como software. Ele impulsiona os data centers NVIDIA Blackwell, levando agilidade instantânea para inferência e treinamento, além de fornecer inteligência de stack completo para a resiliência da infraestrutura. Com ele, qualquer empresa pode executar IA com eficiência de hiperescala, simplificando e acelerando sua experimentação com IA.
Os Serviços Empresariais NVIDIA fornecem suporte, treinamento e especialistas em infraestrutura para sua infraestrutura NVIDIA DGX. Com os especialistas da NVIDIA disponíveis em cada etapa da sua jornada de IA, os Serviços Empresariais podem ajudar você a colocar seus projetos em funcionamento de forma rápida e bem-sucedida.
Comece Já