Écosystème de stockage d'IA pour les Data Centers
Plateforme de stockage de mémoire contextuelle NVIDIA CMX
Réarchitecturer le stockage d'inférence pour la prochaine frontière de l'IA.
Aperçu
Le stockage natif de l'IA accélère l'inférence de contexte long à grande échelle
Le stockage de mémoire contextuelle NVIDIA CMX™ constitue une couche de contexte d'IA native pour l'inférence de l'IA agentique multi-tours à long contexte. Basée sur le processeur de stockage NVIDIA BlueField™‑4, cette couche enrichit la mémoire GPU avec une couche de contexte partagée au niveau du pod optimisée pour le cache de clé-valeur (KV) éphémère. La solution offre un chemin à bande passante élevée qui réduit la latence, les coûts et la consommation d'énergie pour les charges de travail d'inférence à grande échelle, ce qui permet d'obtenir un débit plus important et une meilleure efficacité énergétique sur les plateformes NVIDIA Rubin.
Produits
Infrastructure de stockage native de l'IA, intégrée de bout en bout
De la mémoire contextuelle accélérée et du transfert sécurisé des données aux structures Ethernet et aux cadres d'inférence, NVIDIA CMX est le fruit d'une conception conjointe poussée à l'extrême combinant calcul, réseau, stockage et logiciels.
Avantages du produit
Mémoire contextuelle accélérée pour l'IA à contexte long
NVIDIA CMX introduit un niveau de contexte dédié qui améliore le débit soutenu et l'efficacité énergétique pour les charges de travail à contexte long à haute intensité de cache KV par rapport aux approches de stockage traditionnelles.
Libérez la puissance de l'IA gigascale
Faites évoluer vos services d'IA grâce à un niveau de stockage hautement efficace et optimisé pour le cache KV qui récupère l'énergie essentielle, libérant ainsi davantage de puissance du Data Center pour les GPU plutôt que pour le stockage traditionnel.
Maximisez l'utilisation, le débit et la réactivité des GPU
Optimisez les chemins de données et réduisez les temps d'attente en réutilisant le cache KV pré-calculé à partir de la couche CMX au lieu de le recalculer. Cela augmente le nombre de jetons par seconde et le débit pour l'inférence agentique multi-tours. CMX réduit le temps nécessaire pour obtenir le premier et le dernier jeton, ce qui permet d'obtenir des réponses plus rapidement et de les traiter plus rapidement, même lorsque les modèles, les fenêtres contextuelles et la simultanéité augmentent.
Activez un partage de cache KV intelligent et efficace sur l'ensemble du pod de l'IA
Fournissez un accès haut débit à l'échelle du pod au contexte natif de l'IA afin de permettre aux agents multi-tours de se coordonner, de partager leur statut et d'évoluer de manière transparente à mesure que la charge de travail augmente, tout en réduisant la duplication du cache KV et la capacité inutilisée entre les nœuds.
Augmentez la capacité des GPU pour l'inférence de contexte long
Offrez une capacité de cache KV massive pour prendre en charge le raisonnement à contexte long, les workflows multi-agents, les modèles à trillions de paramètres et les fenêtres contextuelles plus longues pour de nombreux utilisateurs simultanés.
NVIDIA STX
NVIDIA STX est une architecture de référence modulaire pour le stockage d'IA, co-conçue avec les principaux partenaires de stockage et basée sur les logiciels de calcul, de mise en réseau et d'IA accélérés de NVIDIA. NVIDIA STX fournit la base nécessaire pour créer un moteur de données universel qui accélère l'ensemble du cycle de vie de l'IA, de l'entraînement et de l'analyse à l'inférence agentique en temps réel.
Écosystème
Partenaires de stockage de mémoire contextuelle NVIDIA CMX
Ressources
Les pierres angulaires de l'ère du contexte
Démarrage
Collaborez avec les experts NVIDIA
Pour commencer, contactez l'équipe commerciale NVIDIA dédiée aux entreprises ou le partenaire approprié du programme NVIDIA Partner Network (NPN).
Vous avez besoin d'aide pour sélectionner le bon partenaire ou produit ?
Discutez avec un spécialiste NVIDIA des besoins de votre entreprise.
Suivez l’actualité de NVIDIA
Inscrivez-vous pour recevoir les dernières nouvelles, mises à jour et plus encore concernant NVIDIA.