NVIDIA GB200 NVL72

GB200 NVL72 introduce capacidades de vanguardia y un motor de transformación de segunda generación, que habilita la IA FP4. Cuando se combina con la quinta generación de NVIDIA NVLink, proporciona un rendimiento de inferencia de LLM 30 veces superior en tiempo real para modelos lingüísticos de varios billones de parámetros. Este avance es posible gracias a una nueva generación de núcleos Tensor, que introducen nuevos formatos de microescala, optimizados para la inferencia de IA de alto rendimiento y baja latencia. Además, el GB200 NVL72 utiliza NVLink y refrigeración líquida para crear un rack masivo de 72 GPU que puede superar los cuellos de botella de comunicación.

GB200 NVL72 incluye un motor transformador más rápido de segunda generación que ofrece una precisión FP8 y que permite un entrenamiento extraordinario 4 veces más rápido para modelos lingüísticos de gran tamaño a escala. Este avance se complementa con NVLink de quinta generación, que proporciona 1,8 TB/s de interconexión GPU-GPU, redes InfiniBand y el software NVIDIA Magnum IO™.

Los bastidores GB200 NVL72 con refrigeración líquida reducen la huella de carbono y el consumo de energía de los centros de datos. La refrigeración líquida incrementa la densidad de computación, reduce la cantidad de espacio en el suelo utilizado y facilita la comunicación de las unidades GPU de alto ancho de banda y baja latencia con grandes arquitecturas de dominio NVLink. En comparación con la infraestructura refrigerada por aire NVIDIA H100, GB200 ofrece 25 veces más rendimiento a la misma potencia, reduciendo al mismo tiempo el consumo de agua.

Las bases de datos desempeñan un papel fundamental en la gestión, el procesamiento y el análisis de grandes volúmenes de datos para las empresas. GB200 aprovecha el rendimiento de memoria de alto ancho de banda, NVLink-C2C, y motores de descompresión dedicados en la arquitectura NVIDIA Blackwell para acelerar 18 veces las consultas de bases de datos clave en comparación con la CPU y ofrecer un TCO 5 veces mejor.