Bastidor de CPU NVIDIA Vera
Diseñado específicamente para el aprendizaje de refuerzo y la IA de agentes.
Descripción
Infraestructura a escala de bastidor para fábricas de IA
El bastidor de CPU Vera está basado en NVIDIA MGX™ y proporciona una infraestructura de CPU a escala de bastidor para las fábricas de IA modernas. A medida que escalan los sistemas de aprendizaje de refuerzo (RL, por sus siglas en inglés) y de IA de agentes, las CPU ejecutan el código, las herramientas y los flujos de trabajo de datos que impulsan los resultados. Vera combina un rendimiento líder por núcleo, un enorme ancho de banda de memoria y una eficiencia energética excepcional, lo que permite completar cargas de trabajo hasta un 50 % más rápido con el doble de eficiencia que la infraestructura de CPU tradicional.
Entornos limitados de CPU:
Ejecución de acciones de IA a escala
Entornos que impulsan RL y la IA de agentes
Los sistemas de IA de agentes y RL dependen de entornos de software externos al modelo que ejecutan código generado por modelos, herramientas y operaciones de datos, evalúan los resultados y envían comentarios antes de que continúe el paso siguiente. Cada entorno se ejecuta normalmente en un núcleo de CPU dedicado y, a escala, miles o millones funcionan en paralelo. Su rendimiento por núcleo con carga completa determina directamente la rapidez con la que los aceleradores pueden seguir trabajando.
El bastidor de CPU NVIDIA Vera está diseñado específicamente para admitir estos entornos a escala. Un solo bastidor con refrigeración líquida integra hasta 256 CPU Vera y admite más de 22 500 entornos de CPU simultáneos. Está diseñado para ofrecer un rendimiento sostenido por núcleo y una eficiencia energética hasta el doble de alta, lo que mantiene los ciclos de evaluación cortos y las fábricas de IA funcionando al máximo de rendimiento.
Especificaciones1
NVIDIA Vera
| Bastidor de CPU NVIDIA Vera | CPU NVIDIA Vera | |
|---|---|---|
| Configuración | 256 CPU Vera | 1 CPU Vera |
| Núcleos | Subprocesos | 22 528 núcleos NVIDIA Olympus 45 056 subprocesos |
88 núcleos NVIDIA Olympus 176 subprocesos |
| Capacidad de memoria | Hasta 400 TB | Hasta 1,5 TB |
| Ancho de banda agregado | Hasta 315 TB/s | Hasta 1,2 TB/s |
| Redes N/S | DPU NVIDIA BlueField-4 | N/D |
| Refrigeración | Refrigeración por líquido | N/D |
1. Información preliminar. Todos los valores son aproximados y están sujetos a cambios.
Partners
Conozca a nuestros partners
Primeros pasos
Manténgase al día sobre las noticias de NVIDIA
Suscríbase para obtener las últimas noticias, actualizaciones y mucho más de NVIDIA.