GPU NVIDIA A30
Tensor Core

El entrenamiento de los modelos de inteligencia artificial para desafíos de siguiente nivel, como la inteligencia artificial conversacional, requiere una enorme capacidad de computación y escalabilidad.

NVIDIA A30 Tensor Cores con Tensor Float (TF32) brindan un rendimiento hasta 10 veces mayor que el NVIDIA T4 sin cambios de código y el doble de impulso con precisión mixta automática y FP16, para brindar aumentar el rendimiento 20 veces de forma combinada. Cuando se utiliza con NVIDIA^® NVLink^®, PCIe Gen4, las redes NVIDIA Mellanox^® y el SDK NVIDIA Magnum IO™, es posible escalar a miles de GPU.

Los Tensor Cores y la tecnología MIG permiten que A30 se utilice para cargas de trabajo de forma dinámica a lo largo del día. Se puede utilizar para la inferencia de producción en los picos de demanda. Además, se puede reutilizar parte de la GPU para volver a entrenar rápidamente esos mismos modelos durante las horas de menor actividad.

NVIDIA estableció varios récords de rendimiento en MLPerf, la evaluación de la industria para el entrenamiento de IA.

Obtén más información sobre la arquitectura NVIDIA Ampere para el entrenamiento ›

Para desbloquear los descubrimientos de la próxima generación, los científicos buscan simulaciones que les permiten comprender mejor el mundo que nos rodea.

NVIDIA A30 cuenta con Tensor Cores de precisión FP64 y con la arquitectura NVIDIA, que brindan el mayor salto en el rendimiento de HPC desde la introducción de las GPU. La combinación de 24GB de memoria de GPU con un ancho de banda de 933Gb/s les permite a los investigadores resolver rápidamente cálculos de doble precisión. Las aplicaciones de HPC también pueden aprovechar la precisión TF32 para lograr un rendimiento más alto en las operaciones de multiplicación de matriz densa y de precisión simple.

La combinación de los FP64 Tensor Cores y la tecnología MIG potencia a las instituciones de investigación, ya que les permite particionar la GPU de forma segura. De esta forma, diferentes investigadores pueden acceder a los recursos de computación con un QoS garantizado y la máxima utilización de GPU. Las empresas que implementan la IA pueden usar las capacidades de inferencia de A30 durante los períodos de máxima demanda y luego reutilizar los mismos servidores de computación para las cargas de trabajo de entrenamiento de HPC e IA durante los períodos de menor actividad.

Obtén más información sobre la arquitectura NVIDIA Ampere para HPC ›

A30 con MIG maximiza la utilización de la infraestructura acelerada por GPU. Con MIG, una GPU A30 se puede dividir en hasta cuatro instancias independientes, lo que brinda a varios usuarios acceso a la aceleración de la GPU.

MIG es compatible con Kubernetes, contenedoresss y la virtualización de servidores basada en un hipervisor. MIG permite a los administradores de infraestructura ofrecer una GPU del tamaño adecuado con QoS garantizada para cada trabajo, lo que extiende el alcance de los recursos de computación acelerados a cada usuario.

Obtén más información sobre MIG ›