Architecture NVIDIA Blackwell

Outre la prise en charge de la technologie de moteur de transformation qui accélère l’entraînement des modèles d'IA grâce aux niveaux de précision FP8 et FP16, Blackwell s'appuie sur un tout nouveau moteur d'IA générative. Le moteur d'IA générative fait appel à des cœurs Blackwell Tensor personnalisés pour accélérer les workflows d’inférence relatifs à l’IA générative et aux grands modèles de langage (LLM) avec de tout nouveaux formats de précision, notamment les formats MX (microscaling) définis par la communauté. Les formats MXFP4, MXFP6, MXFP8 et MXINT8 du moteur d'IA générative accélèrent les calculs de manière significative pour une nouvelle génération de LLM avec des performances accrues grâce à un encombrement réduit et à un rendement supérieur des modèles par rapport aux formats FP8 et FP16.

Pour exploiter le plein potentiel du calcul Exascale et de nouveaux modèles d’IA pouvant inclure plusieurs billions de paramètres, il convient de mettre en œuvre des communications fluides et rapides entre chaque GPU au sein d’un cluster de serveurs. La technologie NVIDIA® NVLink® de cinquième génération repose sur un modèle d’interconnexion évolutif qui contribue à accélérer les performances des modèles d’IA incluant des billions de paramètres (voire beaucoup plus). 

La technologie NVIDIA NVSwitch™ de quatrième génération, qui fournit une bande passante de 130 To/s au sein d'un domaine NVLink à 72 GPU (NVL72), apporte une efficacité de bande passante 4 fois plus importante grâce à la prise en charge du protocole SHARP™ (NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol) avec le format FP8. En ayant recours à la technologie NVSwitch, le système de commutation NVIDIA NVLink peut prendre en charge des clusters allant au-delà d’un seul serveur, tout en maintenant un impressionnant débit d’interconnexion s'élevant à 1,8 To/s. Les clusters multiserveurs avec NVLink permettent de mettre à niveau les communications GPU en les équilibrant avec l'augmentation de la puissance de calcul. Chaque domaine NVL72 peut ainsi fournir un rendement 9 fois plus élevé qu’avec un seul système à huit GPU. 

Blackwell se distingue par une résilience intelligente avec un moteur RAS dédié de fiabilité, de disponibilité et de maintenance qui permet d’identifier plus rapidement les défaillances potentielles afin de minimiser les temps d'arrêt.  Les capacités de gestion prédictive basées sur l’IA fournies par NVIDIA assurent une surveillance en continu de milliers de points de données sur l'infrastructure matérielle et logicielle afin de prévoir et de neutraliser les sources d'indisponibilité et d'inefficacité. Cette approche est la clé d'une résilience intelligente permettant de réaliser des économies substantielles en termes de temps, d’énergie et de coûts de calcul. 

Le moteur RAS de NVIDIA fournit des informations de diagnostic approfondies permettant d’identifier tout aspect potentiellement préoccupant et de planifier les opérations de maintenance. Le moteur RAS réduit les délais de traitement en localisant rapidement la source des problèmes, de manière à minimiser les temps d’arrêt en permettant une résolution efficace.