Magnum IO

Pila de optimización de E/S de almacenamiento y red multi-GPU, multinodo

Satisfacer las demandas de ancho de banda de las cargas de trabajo intensivas en computación

Las GPU proporcionan la potencia requerida por las cargas de trabajo de proceso intensivo, pero su consumo de datos aumenta la demanda de ancho de banda de entrada/salida (IO). NVIDIA Magnum IO es el conjunto de API de NVIDIA que integra computación, redes, sistemas de archivos y almacenamiento para maximizar el rendimiento de E/S para sistemas acelerados multi-GPU y múltiples nodos. Se interconecta con las bibliotecas CUDA-X para acelerar la E/S en una amplia gama de cargas de trabajo, desde la IA hasta la visualización.

Rendimiento de E/S de almacenamiento y redes optimizados para GPU

Magnum IO integra elementos de infraestructura para maximizar la funcionalidad y el rendimiento de E/S de red y de almacenamiento. Entre sus ventajas se incluyen:

Rendimiento de E/S optimizado: omite la CPU para habilitar la E/S directa entre la memoria GPU y el almacenamiento en red.

Equilibrio y utilización del sistema: alivia la contención de la CPU para crear un sistema acelerado por GPU más equilibrado y ofrece un ancho de banda de E/S pico con hasta 10 veces menos núcleos de CPU.

Integración perfecta: proporciona una implementación optimizada para plataformas actuales y futuras, ya sea que las transferencias de datos sean sensibles a la latencia, sensibles al ancho de banda o colectivos.

Pila de optimización de E/S

Magnum IO incluye innovadoras tecnologías de optimización de E/S como NCCL, NVIDIA® GPUDirect RDMA y NVIDIA Fabric Manager. Almacenamiento GPUDirect es una característica clave de la pila. Abre una ruta de datos directa entre la memoria GPU y el almacenamiento, evitando la CPU por completo. Esta ruta directa puede aumentar el ancho de banda, disminuir la latencia y disminuir la carga de utilización en la CPU y la GPU. Abordar el problema de E/S con las unidades de Magnum IO lleva hacia un sistema equilibrado.

Pila de optimización de E/S

Obtén más información sobre las tecnologías que alimentan Magnum IO.