Cœurs NVIDIA Tensor

L’entraînement des modèles d’IA générative dotés de plusieurs billions de paramètres avec un niveau de précision FP16 (virgule flottante à 16 bits) peut prendre jusqu'à plusieurs mois. Les cœurs NVIDIA Tensor offrent des performances significativement plus élevées pour les calculs FP8 avec le moteur de transformation, les calculs TF32 (Tensor Float 32) et les calculs FP16 à précision ajustée. La prise en charge directe de ces modèles dans des frameworks natifs via les bibliothèques logicielles CUDA-X™garantit une implémentation automatique, ce qui permet de réduire les délais d’entraînement tout en maintenant des résultats conformes à avec une précision préservée.   

Maintenir une faible latence et un rendement élevé tout en maximisant l’utilisation est l'une des principales exigences pour déployer des systèmes d’inférence fiables. Le moteur de transformation de seconde génération de l'architecture NVIDIA Blackwell délivre des performances exceptionnelles avec sa polyvalence lui permettant d’accélérer des modèles d’IA générative dotés de plusieurs billions de paramètres. 

Les cœurs Tensor ont permis à NVIDIA de se classer à la première place des benchmarks MLPerf, qui font autorité dans toute l’industrie en matière d'inférence.

Le calcul haute performance (HPC) est un pilier de la science moderne. Pour réaliser de nouvelles découvertes scientifiques, les chercheurs ont aujourd’hui recours à des simulations avancées afin d'étudier des systèmes moléculaires complexes à des fins de recherche pharmaceutique, d'utiliser de nouveaux modèles physiques pour identifier de nouvelles sources d'énergie ou d'analyser de grands volumes de données atmosphériques pour mieux anticiper les phénomènes climatiques extrêmes. Les cœurs NVIDIA Tensor mobilisent toute une gamme d’opérations (TF32, FP16, INT8 et INT4) pour accélérer la recherche scientifique avec le plus haut niveau de précision.

Notre kit de développement pour le HPC regroupe une suite complète de compilateurs, de bibliothèques logicielles et d’outils essentiels pour le développement d’applications HPC sur la plateforme de NVIDIA.