Magnum IO

Environnement multi-GPU et multi-nœuds d'optimisation E/S pour réseau et stockage

Une réponse adaptée aux besoins en bande passante des procédures de calcul intensif

Les GPU offrent la puissance requise par les procédures de calcul intensif, mais leur consommation de données augmente la demande en matière de bande passante en entrée et sortie (E/S). NVIDIA Magnum IO est un ensemble d'API de NVIDIA qui intègre le calcul, la mise en réseau, les systèmes de fichiers distribués et le stockage pour maximiser les performances E/S des systèmes multi-GPU et multi-nœuds. Il est relié aux bibliothèques CUDA-X afin d'accélérer les flux d’E/S sur une vaste gamme de charges de travail allant de l'IA à la visualisation.

Performances E/S de stockage et de réseau optimisées par GPU

Magnum IO intègre des éléments d’infrastructure pour maximiser les performances et les fonctionnalités de stockage et de réseau E/S. Principales caractéristiques :

Performances E/S optimisées : Il ne surcharge pas le CPU pour activer directement les flux d'E/S entre la mémoire GPU et le stockage réseau.

Équilibre et utilisation du système : Il soulage le CPU en créant un système accéléré par GPU plus équilibré et disposant d'une bande passante d’E/S optimale avec jusqu'à 10 fois moins de cœurs CPU.

Intégration fluide : Il propose une mise en œuvre optimisée pour les plateformes actuelles et futures, que les transferts de données soient sensibles à la latence, à la bande passante ou aux opérations collectives.

Système d’optimisation E/S

Magnum IO inclut des technologies innovantes d’optimisation des flux d'E/S innovantes comme NCCL, NVIDIA® GPUDirect RDMA et NVIDIA Fabric Manager. GPUDirect Storage est une fonctionnalité-clé du système qui offre un chemin d’accès direct aux données entre la mémoire GPU et le stockage, soulageant ainsi le CPU. Ce chemin direct permet d'augmenter la bande passante et de réduire la latence, mais aussi de diminuer la charge d’utilisation du CPU et du GPU. Magnum IO permet non seulement de résoudre vos problèmes d'E/S, mais aussi de mettre en œuvre un système plus équilibré.

Système d’optimisation E/S

Obtenez plus d’informations sur les technologies compatibles avec Magnum IO.