NVIDIA Vera

NVIDIA Vera cuenta con 88 núcleos NVIDIA Olympus personalizados que han sido diseñados para el trabajo complejo, con numerosas ramificaciones y sensible a la latencia que se utiliza en la IA agéntica y el aprendizaje por refuerzo. El alto rendimiento de un solo hilo ayuda a completar con mayor rapidez los tiempos de ejecución de agentes, las llamadas de herramientas, la ejecución de código y los bucles de evaluación, mientras que NVIDIA Spatial Multithreading™ crea 176 hilos con recursos de los núcleos particionados para lograr un rendimiento predecible a escala.

NVIDIA Vera ofrece hasta 1,2 terabytes por segundo (TB/s) de ancho de banda de memoria LPDDR5X, con un consumo energético significativamente menor que el de la memoria de servidor tradicional. Esto mantiene la capacidad de respuesta de miles de entornos de software paralelos, al tiempo que admite iteraciones de RL más rápidas, una gestión eficiente de caché KV y flujos de trabajo de agentes de gran consumo de datos. Con hasta 1,5 TB de memoria, Vera proporciona la capacidad y la eficiencia para fábricas de IA, análisis y cargas de trabajo de HPC.

NVIDIA Vera utiliza NVIDIA SCF de segunda generación para conectar los 88 núcleos, la caché, la memoria, la entrada y la salida (E/S) y NVLink-C2C en un solo chip de computación. Con 3,4 TB/s de ancho de banda biseccional y una arquitectura de caché unificada, SCF proporciona a los núcleos un acceso rápido y coherente a los datos, incluso cuando la CPU se utiliza por completo. Al evitar la comunicación entre chiplets, Vera mantiene una latencia y un rendimiento predecibles para cargas de trabajo agénticas, análisis e infraestructura de fábrica de IA a escala.

NVIDIA NVLink-C2C proporciona hasta 1,8 TB/s de ancho de banda coherente entre las CPU Vera y las GPU de NVIDIA. Cuando se combina con las GPU NVIDIA Rubin, Vera crea una arquitectura de memoria unificada que ayuda a las CPU y las GPU a trabajar juntas en cargas de trabajo complejas de IA y HPC, grandes conjuntos de datos y descarga de caché de KV. NVLink-C2C reduce los cuellos de botella en la transferencia de datos, simplifica la optimización, admite el aislamiento seguro de datos y código confidenciales y permite conectividad de alta velocidad en sistemas de CPU Vera de doble zócalo.