Spécialement conçu pour l'apprentissage par renforcement et l'IA agentique.
Aperçu
Basé sur NVIDIA MGX™, le rack de CPU Vera fournit une infrastructure CPU à l'échelle du rack pour les usines d'IA modernes. À mesure que les systèmes d'apprentissage par renforcement (RL) et d'IA agentique évoluent, les CPU exécutent le code, les outils et les workflows de données afin d'obtenir des résultats. Vera combine des performances par cœur de pointe, une bande passante mémoire massive et une efficacité énergétique exceptionnelle, permettant d'exécuter des charges de travail jusqu'à 50 % plus rapidement avec une efficacité deux fois supérieure à celle d'une infrastructure CPU traditionnelle.
Les systèmes d'apprentissage par renforcement et d'IA agentique s'appuient sur des environnements logiciels en dehors du modèle qui exécutent le code, les outils et les opérations de données générés par le modèle, évaluent les résultats et émettent des commentaires avant de passer à l'étape suivante. Chaque environnement fonctionne généralement sur un cœur de CPU dédié et, à grande échelle, des milliers, voire des millions d'environnements fonctionnent en parallèle. Leurs performances par cœur à pleine charge déterminent directement la vitesse à laquelle les accélérateurs peuvent continuer de fonctionner.
Le rack de CPU NVIDIA Vera est spécialement conçu pour prendre en charge ces environnements à grande échelle. Un seul rack à refroidissement liquide intègre jusqu'à 256 CPU Vera, prenant ainsi simultanément en charge plus de 22 500 environnements CPU. Cette plateforme novatrice a été conçue pour fournir des performances par cœur soutenues et une efficacité énergétique jusqu'à 2 fois plus élevée, ce qui permet de réduire les cycles d'évaluation et d'optimiser le débit des usines d'IA.
Spécifications1
| Rack de CPU NVIDIA Vera | CPU NVIDIA Vera | |
|---|---|---|
| Configuration | 256 CPU Vera | 1 CPU Vera |
| Cœurs | Threads | 22 528 cœurs NVIDIA Olympus 45 056 threads |
88 cœurs NVIDIA Olympus 176 threads |
| Capacité de mémoire | Jusqu'à 400 To | Jusqu'à 1,5 To |
| Bande passante agrégée | Jusqu'à 315 To/s | Jusqu'à 1,2 To/s |
| Mise en réseau N/S | DPU NVIDIA BlueField-4 | N/A |
| REFROIDISSEMENT | Refroidissement liquide | N/A |
1. Informations préliminaires. Toutes les valeurs sont valables et sujettes à modification.
Partenaires
Commencer
Inscrivez-vous pour recevoir les dernières informations et annonces de NVIDIA.