NVIDIA DGX B200

NVIDIA DGX B200

A base para o seu centro de excelência em IA.

Desempenho Revolucionário Apoiado Pela Inovação Evolucionária

NVIDIA DGX™ B200 é uma plataforma unificada de IA para pipelines de desenvolvimento para implantação para empresas de qualquer tamanho, em qualquer estágio de sua jornada de IA. Equipado com oito GPUs NVIDIA Blackwell interconectadas com NVIDIA® NVLink® de quinta geração, o DGX B200 oferece desempenho de ponta, oferecendo 3 vezes o desempenho de treinamento e 15 vezes o desempenho de inferência das gerações anteriores. Aproveitando a arquitetura de GPU NVIDIA Blackwell, o DGX B200 pode lidar com diversas cargas de trabalho, incluindo grandes modelos de linguagem, sistemas de recomendação e chatbots, tornando-o ideal para empresas que buscam acelerar sua transformação de IA.

Infraestrutura de IA para Qualquer Carga de Trabalho

Saiba como o DGX B200 permite que as empresas acelerem qualquer carga de trabalho de IA, desde a preparação de dados até o treinamento e inferência.

Exemplos de Implantações Empresariais Bem-Sucedidas

Leia como a plataforma NVIDIA DGX e NVIDIA NeMo™ capacitaram empresas líderes.

Vantagens

Uma Plataforma Unificada de IA

Uma Plataforma para Pipelines de Desenvolvimento para Implantação

As empresas exigem grandes quantidades de poder de computação para lidar com conjuntos de dados complexos de IA em todas as fases do pipeline de IA, desde o treinamento até o ajuste fino e a inferência. Com o NVIDIA DGX B200, as empresas podem equipar seus desenvolvedores com uma plataforma única desenvolvida para acelerar seus workflows.

Potência do desempenho de IA

Alimentado pelos avanços da arquitetura NVIDIA Blackwell em computação, o DGX B200 oferece 3X o desempenho de treinamento e 15X o desempenho de inferência do DGX H100. Como base do NVIDIA DGX BasePOD™ e NVIDIA DGX SuperPOD™, o DGX B200 oferece desempenho de ponta para qualquer carga de trabalho.

Padrão de infraestrutura comprovado

DGX B200 é uma plataforma de hardware e software totalmente otimizada que inclui a pilha completa de software NVIDIA AI, incluindo os softwares NVIDIA Base Command e NVIDIA AI Enterprise, um rico ecossistema de suporte de terceiros e acesso a consultoria especializada de serviços profissionais da NVIDIA.

Desempenho

Desempenho de Última Geração com Tecnologia DGX B200

Inferência de Grande Modelo de Linguagem em Tempo Real

Desempenho projetado sujeito a alterações. Latência token a token (TTL) = 50 ms em tempo real, latência do primeiro token (FTL) = 5s, comprimento da sequência de entrada = 32.768, comprimento da sequência de saída = 1.028, 8 GPUs DGX H100 de oito vias resfriadas a ar vs. way DGX B200 refrigerado a ar, por comparação de desempenho de GPU.

Desempenho de Treinamento de IA Turbinado

Desempenho projetado sujeito a alterações. Escala de 32.768 GPU, cluster DGX H100 refrigerado a ar de 4.096x oito vias: rede 400G IB, cluster refrigerado a ar DGX B200 de 4.096x 8 vias: rede 400G IB.

Especificações

Especificações NVIDIA DGX B200

GPU 8x NVIDIA Blackwell GPUs
Memória GPU 1.440 GB de memória GPU total
Desempenho Treinamento de 72 petaFLOPS e inferência de 144 petaFLOPS
Consumo de Energia ~14,3 kW máx.
CPU 2 processadores Intel® Xeon® Platinum 8570
112 núcleos no total, 2,1 GHz (base),
4 GHz (reforço máximo)
Memoria do Sistema Até 4 TB
Rede 4 portas OSFP atendendo 8x NVIDIA ConnectX-7 VPI de porta única
  • Até 400Gb/s InfiniBand/Ethernet
2 DPUs QSFP112 NVIDIA BlueField-3 de porta dupla
  • Até 400Gb/s InfiniBand/Ethernet
Rede de Gestão NIC integrada de 10Gb/s com RJ45
NIC Ethernet de porta dupla de 100Gb/s
Controlador de gerenciamento de placa base host (BMC) com RJ45
Armazenamento SO: 2x 1,9 TB NVMe M.2
Armazenamento interno: 8x 3,84 TB NVMe U.2
Software NVIDIA AI Enterprise: software de IA otimizado
NVIDIA Base Command™: orquestração, agendamento e gerenciamento de cluster
DGX OS/Ubuntu: Sistema operacional
Unidades de Rack (RU) 10RU
Dimensões do Sistema Altura: 17,5 pol. (444 mm)
Largura: 19,0 pol. (482,2 mm)
Comprimento: 35,3 pol. (897,1 mm
Temperatura de Operação 5–30°C (41–86°F)
Suporte Empresarial Suporte Enterprise Business Standard de três anos para hardware e software
Acesso ao portal de suporte empresarial em tempo integral
Suporte ao agente ao vivo durante o horário comercial local

Recursos

Entregando Supercomputação para Todas as Empresas

NVIDIA DGX SuperPOD

NVIDIA DGX SuperPOD™ com sistemas DGX B200 permite que empresas líderes implantem infraestrutura pronta para uso em grande escala, apoiada pela experiência em IA da NVIDIA.

Maximize o Valor da Plataforma DGX

Os Serviços Empresariais da NVIDIA fornecem suporte, educação e serviços profissionais para sua infraestrutura DGX. Com especialistas da NVIDIA disponíveis em cada etapa da sua jornada de IA, os Serviços Empresariais podem ajudá-lo a colocar seus projetos em funcionamento com rapidez e sucesso.

Receba Uma Oferta de Treinamento Exclusiva Como Cliente DGX

Aprenda como alcançar avanços de ponta com IA de forma mais rápida e com treinamento técnico especial, oferecido expressamente aos clientes DGX pelos especialistas em IA do NVIDIA Deep Learning Institute (DLI).

Começar

Dê os Próximos Passos

Adquira a Plataforma NVIDIA DGX

A plataforma DGX é composta por uma ampla variedade de produtos e serviços para atender às necessidades de cada empresa de IA.

Descubra as Vantagens da Plataforma NVIDIA DGX

NVIDIA DGX é o padrão comprovado no qual a IA empresarial é construída.

Precisa de Ajuda para Selecionar o Produto ou Parceiro Certo?

Fale com um especialista em produtos NVIDIA sobre suas necessidades profissionais.