CPU NVIDIA Grace

Criado especificamente para resolver os maiores problemas de computação do mundo.

Acelerando as Maiores Cargas de Trabalho de AI, HPC, Cloud e Hiperescala

Os modelos de IA estão explodindo em complexidade e tamanho à medida que aprimoram a AI conversacional com centenas de bilhões de parâmetros, aprimoram sistemas de recomendação profunda contendo dezenas de terabytes de dados e permitem novas descobertas científicas. Esses modelos maciços estão forçando os limites dos sistemas atuais. Continuar a escalá-los para precisão e utilidade requer acesso rápido a um grande conjunto de memória e um acoplamento firme da CPU e GPU.

Explore os primeiros designs de sistemas NVIDIA impulsionados por CPU do mundo

Produtos

Superchip NVIDIA Grace Hopper

O superchip NVIDIA Grace Hopper combina as arquiteturas Grace e Hopper usando NVIDIA® NVLink-C2C para fornecer um modelo de memória coerente CPU+GPU para aplicações aceleradas de AI e computação de alto desempenho (HPC).

  • CPU+GPU projetada para IA e HPC em escala gigante
  • Nova interface coerente de 900 gigabytes por segundo (GB/s), 7 vezes mais rápida que PCIe Gen 5
  • Largura de banda de memória agregada do sistema 30 vezes maior para GPU em comparação com DGX A100
  • Executa todos os pacotes e plataformas de software NVIDIA, incluindo NVIDIA HPC, NVIDIA AI e NVIDIA Omniverse
NVIDIA Grace Hopper Superchip
Superchip de CPU NVIDIA Grace

Superchip de CPU NVIDIA Grace

O superchip de CPU NVIDIA Grace usa a tecnologia NVLink-C2C para fornecer 144 núcleos Arm® v9 e 1 TB/s de largura de banda de memória.

  • CPU de alto desempenho para HPC e computação no cloud
  • Design de super chip com até 144 núcleos de CPU Arm v9
  • O primeiro LPDDR5x do mundo com memória ECC, largura de banda total de 1 TB/s
  • SPECrate®2017_int_base acima de 740 (estimado)
  • Interface coerente de 900 GB/s, 7 vezes mais rápida que PCIe Gen 5
  • 2 vezes a densidade de empacotamento de soluções baseadas em DIMM
  • 2 vezes o desempenho por watt da CPU líder de hoje
  • Executa todos os pacotes e plataformas de software NVIDIA, incluindo NVIDIA RTX, HPC, NVIDIA AI e NVIDIA Omniverse

Design de Referência NVIDIA Grace para Cargas de Trabalho Modernas do Data Center

Anúncio de projetos de sistemas para digital twins, gráficos e games no cloud, inteligência artificial e computação de alto desempenho.

CGX-Cloud Graphics & Gaming

CGX

Gráficos e Games no Cloud

Superchip Grace CPU
A16
BlueField-3

OVX-Digital Twins & Omniverse

OVX

Digital Twins & Omniverse

Superchip Grace CPU
NVIDIA GPUs
BlueField-3

HGX-HPC

HGX

HPC

Grace CPU Superchip
BlueField-3
OEM Defined IO

HGX-AI Training, Inference & HPC

HGX

Treinamento de AI, Inferência & HPC

Superchip Grace Hopper
BlueField-3
OEM Defined IO / 4th Gen NVLink

Projetado para Resolver Problemas Complexos

A CPU NVIDIA Grace aproveita a flexibilidade da arquitetura Arm® para criar uma arquitetura de CPU e servidor projetada desde o início para computação acelerada. Este design inovador fornecerá largura de banda agregada até 30 vezes maior em comparação aos servidores mais rápidos de hoje e desempenho até 10 vezes maior para aplicações que executam terabytes de dados. A NVIDIA Grace foi projetada para permitir que cientistas e pesquisadores treinem os maiores modelos do mundo para resolver os problemas mais complexos.

As Últimas Inovações Técnicas

NVIDIA NVLink-C2C de Quarta Geração

Resolver os maiores problemas de AI e HPC requer memória de alta capacidade e alta largura de banda (HBM). O NVIDIA NVLink-C2C de quarta geração oferece 900 GB/s de largura de banda bidirecional entre a CPU NVIDIA Grace e as GPUs NVIDIA. A conexão fornece um espaço de endereço de memória unificado e coerente com o cache que combina a memória do sistema e da GPU HBM para uma programação simplificada. Essa conexão coerente e de alta largura de banda entre CPU e GPUs é fundamental para acelerar os problemas de AI e HPC mais complexos de amanhã.

Novo Subsistema de Memória de Alta Largura de Banda Usando LPDDR5x com ECC

A largura de banda da memória é um fator crítico no desempenho do servidor e a memória padrão de taxa de dados dupla (DDR) consome uma parte significativa da energia geral do soquete. A CPU NVIDIA Grace é a primeira CPU de servidor a aproveitar a memória LPDDR5x com confiabilidade de nível de servidor por meio de mecanismos como código de correção de erros (ECC) para atender às demandas do data center, ao mesmo tempo em que oferece 2 vezes a largura de banda da memória e até 10 vezes melhor eficiência energética em comparação com a memória de servidor de hoje. A solução NVIDIA Grace LPDDR5x, juntamente com o cache grande e de alto desempenho de último nível, oferece a largura de banda necessária para modelos grandes, ao mesmo tempo em que reduz a energia do sistema para maximizar o desempenho da próxima geração de cargas de trabalho.

Núcleos Arm v9 de Última Geração

À medida que os recursos de computação paralela das GPUs continuam avançando, as cargas de trabalho ainda podem ser controladas por tarefas seriais executadas na CPU. Uma CPU rápida e eficiente é um componente crítico do design do sistema para permitir a aceleração máxima da carga de trabalho. A CPU NVIDIA Grace integra núcleos Arm v9 de próxima geração para oferecer alto desempenho em um design com baixo consumo de energia, tornando mais fácil para cientistas e pesquisadores fazerem o trabalho de suas vidas. 

Parceiros

Asus
Fii logo
Gigabyte logo
Quanta-cloud
Supermicro
Wiwynn-logo

Primeiros Designs de Sistemas NVIDIA Impulsionados por CPU do Mundo