NVIDIA NVLink Fusion

Infraestructura de IA semipersonalizada con rendimiento de escalabilidad de IA probado en el sector y arquitectura de escala de bastidores.

Descripción

Rendimiento de escalado vertical del máximo nivel

NVIDIA NVLink™ Fusion es una plataforma de infraestructura de IA a escala de bastidor ('rack') que permite a los hiperescaladores y diseñadores de ASIC personalizados integrar unidades CPU y XPU personalizadas con la interconexión de escalado vertical NVLink™, líder a nivel mundial, y la arquitectura de servidores OCP MGX a escala de bastidor. Saque partido de la pila de tecnología de IA de NVIDIA , sometida a pruebas exhaustivas, y el diseño y el ecosistema probados a escala de bastidor para llegar al mercado más rápido, reducir los costes de desarrollo y los riesgos de implementación, y lograr un mejor rendimiento para obtener un mayor retorno de inversión.

La cartera de tecnología modular de NVLink Fusion incorpora unidades de GPU NVIDIA, de CPU NVIDIA Vera™, redes de escalado NVLink, módulos ópticos empaquetados conjuntamente (CPO), NVIDIA ConnectX® SuperNIC, BlueField® DPU y el software Mission Control. El ecosistema integral incluye diseñadores de ASIC, proveedores de CPU y de IP, OEM (fabricantes de equipos originales)/ODM (fabricantes de diseños originales) y proveedores de componentes, todo ello concebido para permitir la implementación rápida de chips para IA personalizados.

AWS integra la infraestructura de IA con NVIDIA NVLink Fusion para habilitar la implementación de Trainium4

Descubra cómo AWS recurre a NVLink Fusion para acelerar la implementación de Trainium4.

Integración de computación semipersonalizada en una arquitectura a escala de bastidor con NVIDIA NVLink Fusion

Descubra cómo NVIDIA NVLink Fusion permite a los hiperescaladores crear una infraestructura de IA semipersonalizada, integrando sus ASIC o CPU con GPU NVIDIA al tiempo que se estandarizan en una única infraestructura de hardware escalable.

Con NVLink Fusion, las fábricas de IA de alto rendimiento pueden escalarse rápidamente, y se benefician de todos los componentes de la solución que conforman la arquitectura a escala de bastidor de NVIDIA.

Ventajas

Ventajas de NVLink Fusion

Rendimiento de escalado de primer nivel

Para aprovechar todo el potencial de las fábricas de IA, se requiere una comunicación ágil y sin fisuras entre todos los aceleradores. NVIDIA NVLink 6 puede conectar 72 XPUs todo a todo a 3,6 TB/s por XPU para aumentar el rendimiento de la IA y el retorno de la inversión.

Menores costes de desarrollo

El ecosistema de proveedores establecido para NVLink Fusion suministra todos los componentes necesarios para una implementación completa a escala de bastidor basada en la arquitectura OCP MGX, desde bastidor y chasis hasta sistemas de distribución de energía y refrigeración, lo cual elimina los costes de desarrollo y los riesgos de implementación asociados con un nuevo diseño de bastidor.

Tiempo acelerado de comercialización

Al utilizar la pila tecnológica probada en condiciones extremas de NVIDIA y el ecosistema de diseñadores de ASIC, proveedores de CPU e IP, y OEM/ODM, los hiperescaladores pueden lograr una aceleración del tiempo de comercialización y del tiempo de generación de ingresos.

Una sola arquitectura unificada

Dado que los hiperescaladores ya implementan soluciones de bastidor de NVIDIA completas, NVLink Fusion hace posible soluciones de silicio heterogéneas a la vez que se estandariza en torno a un diseño de bastidor común, lo cual acelera la implementación de fábricas de IA y simplifica la gestión.

Plataforma

Plataforma NVIDIA NVLink Fusion

NVIDIA NVLink

NVIDIA NVLink 6 y el chip de conmutación NVLink permiten 260 TB/s de ancho de banda en un único dominio NVLink de 72 aceleradores (NVL72) y ofrecen una eficiencia de ancho de banda cuatro veces mayor con compatibilidad con agregación jerárquica escalable y protocolo de reducción (SHARP)™ FP8 de NVIDIA.

NVIDIA NVLINK-C2C

NVIDIA NVLink-C2C amplía la tecnología NVLink líder en el sector a una interconexión de chip a chip. Esto permite la creación de una nueva clase de productos integrados con partners de NVIDIA, construidos con chiplets, que permite a las GPU o CPU de NVIDIA tener una conexión coherente de gran ancho de banda y chips personalizados.

Usuarios

Ecosistema NVLink Fusion

Escalado del rendimiento de la inferencia de IA con NVLink Fusion

Descubra cómo NVIDIA NVLink Fusion lidia con las crecientes exigencias de los modelos de IA complejos.