Criado especificamente para aprendizagem por reforço e IA baseada em agentes.
Visão Geral
Criada no NVIDIA MGX™, a Vera CPU Rack oferece infraestrutura de CPU em escala de rack para fábricas de IA modernas. À medida que os sistemas de aprendizagem por reforço (RL) e IA baseada em agentes escalam, as CPUs executam o código, as ferramentas e os workflows de dados que impulsionam resultados. Vera combina o principal desempenho por núcleo, enorme largura de banda de memória e eficiência energética excepcional, concluindo workloads até 50% mais rápido com o dobro da eficiência da infraestrutura de CPU tradicional, tudo isso mantendo as GPUs totalmente utilizadas.
Os sistemas de RL e IA baseada em agentes dependem de ambientes de software fora do modelo que executam código gerado por modelos, ferramentas e operações de dados, avaliam resultados e retornam feedback antes da próxima etapa. Cada ambiente geralmente é executado em um núcleo de CPU dedicado e, em escala, milhares a milhões operam em paralelo. Seu desempenho por núcleo totalmente carregado determina diretamente a rapidez com que os aceleradores podem continuar trabalhando.
O NVIDIA Vera CPU Rack foi criado especificamente para suportar esses ambientes em escala. Um único rack com resfriamento líquido integra até 256 CPUs Vera, suportando mais de 22.500 ambientes de CPU simultâneos. Foi projetado para desempenho sustentado por núcleo e até o dobro de eficiência energética, mantendo os ciclos de avaliação curtos, aceleradores totalmente utilizados e fábricas de IA operando em taxa de transferência de pico.
Especificações1
| Rack NVIDIA Vera CPU | CPU NVIDIA Vera | |
|---|---|---|
| Configuração | 256 CPUs Vera | 1 CPU Vera |
| Núcleos | Threads | 22.528 núcleos NVIDIA Olympus 45.056 threads |
88 núcleos NVIDIA Olympus 176 threads |
| Capacidade de Memória | Até 400 TB | Até 1,5 TB |
| Largura de banda agregada | Até 315 TB/s | Até 1,2 TB/s |
| Rede N/S | DPU NVIDIA BlueField-4 | N/A |
| Resfriamento | Resfriamento Líquido | N/A |
1. Informações preliminares. Todos os valores estão sujeitos a alterações.
Parceiros
Comece Agora
Inscreva-se para receber as últimas notícias, atualizações e novidades da NVIDIA.