Bastidor de CPU NVIDIA Vera
Diseñada específicamente para el aprendizaje por refuerzo y la IA de agentes.
Descripción General
Infraestructura a Escala de Bastidor para Fábricas de IA
El bastidor de CPU Vera, que se basa en NVIDIA MGX™, ofrece una infraestructura de CPU a escala de bastidor para las fábricas de IA modernas. A medida que escalan el aprendizaje por refuerzo (RL) y los sistemas de IA agéntica, las CPU ejecutan el código, las herramientas y los flujos de trabajo de datos que impulsan los resultados. Vera combina el desempeño líder por núcleo, un ancho de banda de memoria masivo y una eficiencia energética excepcional, lo que completa las cargas de trabajo hasta un 50 % más rápido con el doble de eficiencia que la infraestructura de CPU tradicional, todo ello a la vez que mantiene las GPU en plena utilización.
Sandboxes de CPU:
Ejecución de Acciones de IA a Escala
Entornos que Impulsan RL y la IA Agéntica
Los sistemas de RL y de IA agéntica dependen de entornos de software fuera del modelo que ejecutan código, herramientas y operaciones de datos generados por modelos, evalúan los resultados y envían comentarios antes de que se proceda al siguiente paso proceda. Cada entorno normalmente se ejecuta en un núcleo de CPU dedicado y, a escala, de miles a millones operan en paralelo. Su desempeño por núcleo completamente cargado determina directamente la rapidez con la que los aceleradores pueden continuar trabajando.
El bastidor de CPU NVIDIA Vera está diseñado específicamente para admitir estos entornos a escala. Un solo bastidor refrigerado por líquido integra hasta 256 CPU Vera, lo que admite más de 22,500 entornos de CPU simultáneamente. Está diseñado para un desempeño sostenido por núcleo y una eficiencia energética hasta dos veces mayor, lo que mantiene la brevedad de los ciclos de evaluación, la plena utilización de los aceleradores y las fábricas de IA operando con el máximo rendimiento.
Especificaciones1
NVIDIA Vera
| Bastidor de CPU NVIDIA Vera | CPU NVIDIA Vera | |
|---|---|---|
| Configuración | 256 CPU Vera | 1 CPU Vera |
| Núcleos | Subprocesos | 22,528 núcleos NVIDIA Olympus 45,056 subprocesos |
88 núcleos NVIDIA Olympus 176 subprocesos |
| Capacidad de Memoria | Hasta 400 TB | Hasta 1.5 TB |
| Ancho de Banda Agregado | Hasta 315 TB/s | Hasta 1.2 TB/s |
| Redes N/S | DPU NVIDIA BlueField-4 | N/A |
| Refrigeración | Refrigeración Líquida | N/A |
1. Información preliminar. Todos los valores están sujetos a cambios.
Socios
Conocer a Nuestros Socios
Empiece Ahora
Manténgase al Día con las Noticias de NVIDIA
Regístrese para recibir las últimas noticias, actualizaciones y más información de NVIDIA.