Lorsque des systèmes sont distribués à travers plusieurs sites, les entreprises doivent répondre à de nouveaux défis en matière d’approvisionnement, de déploiement, de gestion et de maintenance. Pour assurer un fonctionnement fluide des opérations, il est essentiel que les services informatiques puissent installer rapidement leurs logiciels sur des systèmes distants. La plateforme NVIDIA EGX™ pour l’IA, qui incorpore des graphiques Helm, des conteneurs logiciels et différents processus d'intégration continue et de livraison continue (CI/CD), permet de rationaliser et d’accélérer ce processus. Grâce à NVIDIA EGX, les services informatiques peuvent déployer des conteneurs d’IA avec un minimum d’efforts, et ce en quelques minutes seulement.
NVIDIA EGX inclut un opérateur GPU qui automatise l’installation et la configuration de tous les composants requis pour mettre en œuvre un cluster de calcul sur GPU dans Kubernetes. Des composants tels que le pilote NVIDIA, le module d’exécution de conteneurs, le plug-in du périphérique et l’outil de supervision sont désormais conteneurisés et exécutés sur Kubernetes en tant que services distincts, ce qui évite aux responsables informatiques d’avoir à gérer une seule image pour les nœuds de CPU et de GPU.