Infraestructura de IA semipersonalizada con rendimiento de escalabilidad de IA probado en el sector y arquitectura de escala de bastidores.
NVIDIA NVLink™ Fusion es una plataforma de infraestructura de IA a escala de bastidor ('rack') que permite a los hiperescaladores y diseñadores de ASIC personalizados integrar unidades CPU y XPU personalizadas con la interconexión de escalado vertical NVLink™, líder a nivel mundial, y la arquitectura de servidores OCP MGX a escala de bastidor. Saque partido de la pila de tecnología de IA de NVIDIA , sometida a pruebas exhaustivas, y el diseño y el ecosistema probados a escala de bastidor para llegar al mercado más rápido, reducir los costes de desarrollo y los riesgos de implementación, y lograr un mejor rendimiento para obtener un mayor retorno de inversión.
La cartera de tecnología modular de NVLink Fusion incorpora unidades de GPU NVIDIA, de CPU NVIDIA Vera™, redes de escalado NVLink, módulos ópticos empaquetados conjuntamente (CPO), NVIDIA ConnectX® SuperNIC, BlueField® DPU y el software Mission Control. El ecosistema integral incluye diseñadores de ASIC, proveedores de CPU y de IP, OEM (fabricantes de equipos originales)/ODM (fabricantes de diseños originales) y proveedores de componentes, todo ello concebido para permitir la implementación rápida de chips para IA personalizados.
Ventajas
Para aprovechar todo el potencial de las fábricas de IA, se requiere una comunicación ágil y sin fisuras entre todos los aceleradores. NVIDIA NVLink 6 puede conectar 72 XPUs todo a todo a 3,6 TB/s por XPU para aumentar el rendimiento de la IA y el retorno de la inversión.
El ecosistema de proveedores establecido para NVLink Fusion suministra todos los componentes necesarios para una implementación completa a escala de bastidor basada en la arquitectura OCP MGX, desde bastidor y chasis hasta sistemas de distribución de energía y refrigeración, lo cual elimina los costes de desarrollo y los riesgos de implementación asociados con un nuevo diseño de bastidor.
Al utilizar la pila tecnológica probada en condiciones extremas de NVIDIA y el ecosistema de diseñadores de ASIC, proveedores de CPU e IP, y OEM/ODM, los hiperescaladores pueden lograr una aceleración del tiempo de comercialización y del tiempo de generación de ingresos.
Dado que los hiperescaladores ya implementan soluciones de bastidor de NVIDIA completas, NVLink Fusion hace posible soluciones de silicio heterogéneas a la vez que se estandariza en torno a un diseño de bastidor común, lo cual acelera la implementación de fábricas de IA y simplifica la gestión.
Plataforma
NVIDIA NVLink 6 y el chip de conmutación NVLink permiten 260 TB/s de ancho de banda en un único dominio NVLink de 72 aceleradores (NVL72) y ofrecen una eficiencia de ancho de banda cuatro veces mayor con compatibilidad con agregación jerárquica escalable y protocolo de reducción (SHARP)™ FP8 de NVIDIA.
NVIDIA NVLink-C2C amplía la tecnología NVLink líder en el sector a una interconexión de chip a chip. Esto permite la creación de una nueva clase de productos integrados con partners de NVIDIA, construidos con chiplets, que permite a las GPU o CPU de NVIDIA tener una conexión coherente de gran ancho de banda y chips personalizados.
Usuarios
Descubra cómo NVIDIA NVLink Fusion lidia con las crecientes exigencias de los modelos de IA complejos.