NVIDIA DGX B200
A base para sua fábrica de IA.
Desempenho Revolucionário Apoiado por Inovação Evolutiva
A NVIDIA DGX B200 é uma plataforma de IA unificada para pipelines do desenvolvimento à implantação para empresas de qualquer tamanho em qualquer fase de sua jornada de IA. Equipada com oito GPUs NVIDIA Blackwell interconectadas com NVIDIA® NVLink™ de quinta geração, a NVIDIA DGX B200 oferece 3 vezes o desempenho de treinamento e 15 vezes o desempenho de inferência dos sistemas da geração anterior. Aproveitando a arquitetura NVIDIA Blackwell, a DGX B200 consegue lidar com diversas cargas de trabalho, incluindo grandes modelos de linguagem, sistemas de recomendação e chatbots, tornando-a ideal para empresas que buscam acelerar sua transformação de IA.
Benefícios
Uma Fábrica de IA Unificada
Desempenho
Desempenho de Última Geração com a Tecnologia NVIDIA DGX B200
Inferência de Grandes Modelos de Linguagem em Tempo Real
Desempenho projetado sujeito a alterações. Latência (TTL) = 50 milissegundos (ms) em tempo real, latência (FTL) = 5s, comprimento da sequência de entrada = 32.768, comprimento da sequência de saída = 1.028, comparação de desempenho por GPU entre 8 GPUs NVIDIA DGX H100 de oito vias com resfriamento a ar versus 1 DGX B200 de oito vias com resfriamento a ar.
Desempenho de Treinamento de IA Potencializado
Desempenho projetado sujeito a alterações. Escala de 32.768 GPUs, 4.096 clusters com resfriamento a ar NVIDIA DGX H100 de oito vias: Rede 400G IB, 4.096 clusters com resfriamento a ar NVIDIA DGX B200 de 8 vias: Rede 400G IB.
Especificações
Especificações da NVIDIA DGX B200
| GPU | 8 GPUs NVIDIA Blackwell |
| Memória da GPU | 1.440 GB no total, largura de banda de 64 TB/s HBM3e. |
| Desempenho | Núcleo tensor FP4: 144 PFLOPS | Núcleo tensor FP8: 72 PFLOPS** |
| NVIDIA NVSwitch | 2x |
| Largura de banda do NVIDIA NVLink. | Largura de banda agregada de 14,4 TB/s |
| Uso de Energia do Sistema | ~14,3 kW máximo |
| CPU | 2 Processadores Intel® Xeon® Platinum 8570, 112 núcleos no total, 2,1GHz (Base), 4GHz (Boost Máximo) |
| Memória do Sistema | 2 TB, configurável para 4 TB |
| Rede | 4x portas OSFP que atendem a 8x portas únicas NVIDIA ConnectX-7 VPI
|
| Rede de Gerenciamento | NIC integrado de 10 Gb/s com controlador de gerenciamento de placa-mãe do host (BMC) de 100 Gb/s com portas duplas Ethernet RJ45 |
| Armazenamento | SO: 2x 1,9 TB NVMe M.2 Armazenamento interno: 8x 3,84 TB NVMe U.2 |
| Software | IA da NVIDIA Enterprise – Software de IA otimizado IA da NVIDIA Mission Control – Operações e orquestração de Data Center de IA com a tecnologia NVIDIA Run:ai IA da NVIDIA DGX OS/Ubuntu – Sistema operacional |
| Unidades de Rack (RU) | 10 RU |
| Dimensões do Sistema | Altura: 17,5 in (444 mm) Largura: 19,0 in (482,2 mm) Comprimento: 35,3 in (897,1 mm) |
| Temperatura de Operação | 10-35°C (50-90°F) |
| Suporte Empresarial | Suporte de Padrão Empresarial de três anos para hardware e software |
|
*Mostrado em sparse | dense |
|
Recursos
Oferta de Fábricas de IA para Todas as Empresas
NVIDIA DGX SuperPOD
A NVIDIA DGX SuperPOD é uma solução de infraestrutura de data center com IA pronta para uso que oferece desempenho excepcional para todos os usuários e workload. Configurável com qualquer sistema NVIDIA DGX, o DGX SuperPOD fornece infraestrutura acelerada de nível de liderança com desempenho escalável para as cargas de trabalho de treinamento e inferência de IA mais exigentes, com resultados comprovados do setor, oferecendo desempenho sem compromissos.
Apresentando o NVIDIA Mission Control
O NVIDIA Mission Control simplifica as operações de IA, desde cargas de trabalho até a infraestrutura, com experiência de nível mundial entregue como software. Ele impulsiona os data centers NVIDIA Blackwell, proporcionando agilidade instantânea para inferência e treinamento, além de fornecer inteligência de stack completa para a resiliência da infraestrutura. Com ele, qualquer empresa pode executar IA com eficiência de hiperescala, simplificando e acelerando sua experimentação com IA.
Maximize o Valor da Plataforma NVIDIA DGX
Os Serviços Empresariais da NVIDIA fornecem suporte, formação e serviços profissionais para a sua infraestrutura DGX. Com os especialistas da NVIDIA disponíveis em cada etapa da sua jornada de IA, os Serviços Empresariais podem ajudá-lo a colocar seus projetos em funcionamento de forma rápida e bem-sucedida
Receba uma Oferta Exclusiva de Treinamento como Cliente NVIDIA DGX
Saiba como criar inovações de ponta com IA mais rapidamente com este treinamento técnico especial oferecido exclusivamente para clientes DGX pelos especialistas em IA do Deep Learning Institute (DLI) da NVIDIA.
Comece Já