Magnum IO

Conjunto de Optimización de I/O para Almacenamiento, Redes de Varios Nodos y Múltiples GPU

SATISFACER LAS DEMANDAS DE ANCHO DE BANDA DE LAS CARGAS DE TRABAJO QUE REQUIEREN MUCHO PROCESAMIENTO

Las GPU proporcionan la potencia necesaria para las cargas de trabajo que requieren mucho procesamiento, pero el consumo de datos aumenta la demanda del ancho de banda de entrada/salida (I/O). NVIDIA Magnum IO™ es el conjunto de API de NVIDIA que integra procesamiento, redes, sistemas de archivos y almacenamiento para maximizar el rendimiento de I/O para los sistemas acelerados de varios nodos y múltiples GPU. Se conecta con las bibliotecas de CUDA-X™ para acelerar la I/O en una amplia variedad de cargas de trabajo, desde la IA hasta la visualización.

REDES OPTIMIZADAS POR GPU Y RENDIMIENTO DE I/O EN EL ALMACENAMIENTO

Magnum IO integra elementos de la infraestructura para maximizar la funcionalidad y el rendimiento de I/O en las redes y el almacenamiento. Beneficios principales:

Rendimiento de I/O optimizado: Omite la CPU para habilitar la I/O directa entre la memoria de GPU y el almacenamiento de redes.

Utilización y Equilibrio del Sistema: Elimina el conflicto en la CPU para crear un sistema acelerado por GPU más equilibrado y proporciona un pico de ancho de banda de I/O con hasta 10 veces menos de núcleos de CPU.

Integración Perfecta: Proporciona una implementación optimizada para plataformas actuales y futuras, ya sea que las transferencias de datos dependan de la latencia, del ancho de banda o sean colectivas.

CONJUNTO DE OPTIMIZACIÓN DE I/O

Magnum IO incluye tecnologías de optimización de I/O, como NCCL, NVIDIA® GPUDirect RDMA y NVIDIA Fabric Manager. GPUDirect Storage es una función clave del conjunto. Abre un camino de datos directo entre el almacenamiento y la memoria de GPU, que evita por completo la CPU. Este camino directo puede aumentar el ancho de banda, reducir la latencia y minimizar la carga de utilización en la CPU y la GPU. Resolver el problema de I/O con Magnum IO da como resultado un sistema más equilibrado.

IO Optimization Stack

Obtén más información sobre las tecnologías que potencian a Magnum IO.