Le CPU pour les agents.
Aperçu
NVIDIA Vera est conçu pour le travail du CPU derrière l'IA agentique et l'apprentissage par renforcement (RL), notamment l'utilisation des outils, l'exécution de code, le sandboxing, le traitement des données et l'orchestration. En tant que CPU hôte pour les systèmes accélérés et CPU autonome pour les charges de travail d'usine d'IA, Vera alimente les GPU, permet aux agents d'être réactifs et assure la progression des boucles d'entraînement. Grâce à des cœurs NVIDIA Olympus rapides et écoénergétiques et à une mémoire LPDDR5X à bande passante élevée, Vera offre des performances jusqu'à deux fois plus rapides pour les charges de travail agentiques critiques, ce qui aide les usines d'IA à générer plus de jetons par dollar.
Une architecture Full-Stack alimentée par l'environnement d'exécution sécurisé NVIDIA OpenShell, les CPU Vera, les systèmes Vera Rubin et NVIDIA Sentry sur BlueField-4.
NVIDIA Vera est le CPU pour les agents, offrant une exécution des tâches agentiques 80 % plus rapide que les processeurs x86, tout en gérant les charges de travail lourdes sur le CPU liées aux usines d'IA modernes, de l'apprentissage par renforcement au traitement des données. Il étend la plateforme d'IA de NVIDIA du GPU au CPU, alimentant ainsi les serveurs Vera autonomes, les systèmes Vera Rubin et les plateformes de stockage d'IA Vera BlueField™-4 STX.
Points-clés
L'IA agentique est freinée par les CPU traditionnels. Tout au long de la boucle de raisonnement d'un agent, le CPU compile le code généré, exécute des chaînes d'outils Python et analyse le code logiciel. NVIDIA Vera accélère les trois charges de travail jusqu'à 1,8 fois par rapport aux principaux CPU x86, stimulant ainsi la boucle interne agentique pour maximiser la production des usines d'IA.
Performances relatives basées sur des données mesurées et susceptibles d'être modifiées. CPU NVIDIA Vera avec des performances LPDDR5X, évalué par rapport à un CPU x86 de dernière génération.
Les performances relatives sont basées sur des données mesurées et projetées et sont sujettes à modification. Le CPU NVIDIA Vera avec LPDDR5X est comparé à un CPU x86 de dernière génération avec DDR5 pour les principales métriques de performance de mémoire CPU.
La technologie DDR5 traditionnelle oblige à faire un compromis entre bande passante, efficacité et maintenabilité. NVIDIA Vera associe la mémoire LPDDR5X à des modules détachables et remplaçables sur le terrain SOCAMM, qui fournissent une efficacité à faible consommation (LP) avec une flexibilité de niveau serveur et une capacité évolutive. Le résultat est une bande passante 5 fois supérieure par watt de puissance mémoire par rapport aux principaux CPU x86 équipés de DDR5, et 3 fois plus de bande passante par cœur, ce qui permet d'accroître le rendement des usines d'IA à l'échelle de l'entreprise et de l'hyperscale.
Cas d’utilisation
Fonctionnalités
Conçu pour répondre aux exigences de l'apprentissage par renforcement et de l'IA agentique, NVIDIA Vera combine des cœurs Olympus conçus par NVIDIA, une mémoire LPDDR5X à bande passante élevée et la structure NVIDIA Scalable Coherency Fabric (SCF) à faible latence. Grâce à une connectivité NVIDIA NVLink™-C2C, à un calcul confidentiel et à une compatibilité complète avec Arm®, Vera s'étend aux systèmes accélérés et aux environnements de Data Centers modernes. Son architecture de calcul monolithique offre des performances par cœur élevées sous charge, des mouvements de données rapides et une latence cohérente et prévisible, ce qui contribue à maximiser le débit, l'efficacité énergétique et l'utilisation du GPU pour les charges de travail d'IA, d'analyse de données et de HPC.
NVIDIA Vera Rubin NVL72 unifie des technologies de pointe de NVIDIA : 72 GPU Rubin, 36 CPU Vera, des SuperNIC ConnectX®-9 et des DPU BlueField-4. Il augmente l'intelligence dans une plateforme rackable avec le commutateur NVLink 6 et s'étend avec NVIDIA Quantum-X800 InfiniBand et Spectrum-X™ Ethernet pour alimenter la révolution industrielle de l'IA.
Démarrer
Inscrivez-vous pour recevoir les dernières informations et annonces de NVIDIA.