GPU NVIDIA H100 Tensor Core

Projections de performance susceptibles d’être modifiées. Rendement 3D FFT (4K^3) | Cluster A100 : réseau HDR IB | Cluster H100 : système de commutation NVLink, réseau NDR IB | Séquençage génomique (Smith-Waterman) | 1x A100 | 1x H100

La plateforme de NVIDIA pour Data Center offre des gains constants de performance qui vont bien au-delà de la loi de Moore. Les nouvelles capacités du GPU H100 amplifient les capacités de l’IA et du HPC pour accélérer les projets des scientifiques et des chercheurs qui cherchent à relever les défis les plus importants au monde.

H100 triple le nombre d’opérations en virgule flottante par seconde (FLOPs) avec les cœurs Tensor en double précision, fournissant ainsi une puissance totale de 60 téraflops pour les calculs FP64 dans les applications HPC. Les applications HPC avec IA intégrée peuvent également tirer parti du niveau de précision TF32 du GPU H100 pour atteindre un pétaflop de rendement afin d’accélérer les opérations de multiplication matricielle en simple précision, sans le moindre changement de code.

H100 intègre en outre de nouvelles instructions DPX qui contribuent à fournir des performances 7 fois plus élevées qu’avec les GPU A100 et 40 fois plus rapides qu’avec les CPU pour les algorithmes de programmation dynamique tels que Smith-Waterman, servant à l’alignement des séquences ADN et à l’alignement de protéines pour la prédiction des structures protéiques.

Instructions DPX : comparatif NVIDIA HGX™ H100 avec 4 GPU vs processeur Ice Lake dual-socket 32 cœurs.

Les responsables informatiques cherchent à optimiser l’utilisation maximale et moyenne des ressources de calcul sur les Data Centers. Pour ce faire, ils ont le plus souvent recours à une technique de reconfiguration dynamique pour adapter les ressources de calcul aux charges de travail en cours d’utilisation.

H100 avec MIG permet aux gestionnaires informatiques de standardiser leur infrastructure accélérée par GPU tout en disposant de suffisamment de polyvalence pour procéder à une allocation des ressources GPU avec une granularité accrue, de manière à offrir aux développeurs des capacités de calcul adéquates et à garantir une utilisation optimale de toutes les ressources GPU.

Le GPU Hopper Tensor Core va équiper l’architecture NVIDIA Grace Hopper CPU+GPU, spécifiquement conçue pour accélérer les calculs informatiques mobilisant plusieurs téraoctets de données, mais aussi fournir des performances 10 fois plus élevées avec les workflows d’IA et de HPC reposant sur des modèles complexes. Le CPU NVIDIA Grace tire parti de la grande polyvalence de l’architecture Arm^® pour proposer une architecture de processeur et de serveur visant à accélérer les calculs informatiques. Le GPU Hopper est associé à Grace via la technologie d’interconnexion chip-to-chip de NVIDIA qui fournit une bande passante totale de 900 Go/s, soit sept fois plus que la norme PCIe Gen5. Cette conception novatrice fournit au GPU une bande passante globale jusqu’à 30 fois plus élevée par rapport aux serveurs généralistes les plus rapides de l’industrie ainsi que des performances de calcul jusqu’à 10 fois plus élevées pour les applications faisant appel à plusieurs téraoctets de données.