NVIDIA GB200 NVL72

GB200 NVL72 apresenta recursos de ponta e um Transformer Engine de segunda geração que permite IA FP4 e, quando acoplado ao NVIDIA NVLink de quinta geração, oferece desempenho de inferência LLM em tempo real 30 vezes mais rápido para modelos de linguagem de trilhões de parâmetros. Esse avanço é possível com uma nova geração de Tensor Cores, que introduz novos formatos de microescala, proporcionando alta precisão e maior rendimento. Além disso, o GB200 NVL72 usa NVLink e refrigeração líquida para criar um único rack massivo de 72 GPU que pode superar gargalos de comunicação.

O GB200 inclui um Transformer Engine mais rápido com precisão FP8, permitindo um treinamento notável 4 vezes mais rápido para grandes modelos de linguagem em escala. Essa inovação é complementada pelo NVLink de quinta geração, que fornece 1,8 terabytes por segundo (TB/s) de interconexão GPU a GPU, rede InfiniBand e software NVIDIA Magnum IO™.

Os racks GB200 NVL72 com refrigeração líquida reduzem a pegada de carbono e o consumo de energia de um data center. O resfriamento líquido aumenta a densidade computacional, reduz a quantidade de espaço usado e facilita a comunicação de GPU de alta largura de banda e baixa latência com grandes arquiteturas de domínio NVLink. Em comparação com a infraestrutura refrigerada a ar NVIDIA H100, o GB200 oferece 25 vezes mais desempenho com a mesma potência, ao mesmo tempo que reduz o consumo de água.

Os bancos de dados desempenham funções críticas no manuseio, processamento e análise de grandes volumes de dados para empresas. O GB200 aproveita o desempenho da memória de alta largura de banda, NVLink-C2C e mecanismos de descompressão dedicados na arquitetura NVIDIA Blackwell para acelerar as principais consultas ao banco de dados em 18 vezes em comparação com a CPU e fornecer um TCO 5 vezes melhor.