NVIDIA NVLink Fusion
Infraestructura de IA semipersonalizada con desempeño de escalabilidad de IA comprobado en la industria y arquitectura a escala de rack.
Descripción general
Fábricas de IA Semipersonalizadas con NVLink Fusion
NVIDIA NVLink™ Fusion es la tecnología conectiva de alto ancho de banda y baja latencia e IP que permite a los hiperescaladores y a los nativos de IA implementar XPU y CPU personalizadas en la plataforma de infraestructura de IA líder en el mundo de NVIDIA. Aproveche la pila y el ecosistema de tecnología comprobados de escalabilidad vertical (scale-up) y horizontal (scale-out) de NVIDIA, así como la arquitectura a escala de bastidor MGX, para reducir la complejidad del desarrollo, aumentar el desempeño y acelerar el tiempo de lanzamiento al mercado para fábricas de IA semipersonalizadas. Al estandarizar en una sola arquitectura unificada, NVLink Fusion simplifica las operaciones en todo el data center, permite el reaprovisionamiento flexible de la capacidad de los data centers y permite que las XPU personalizadas se integren a la perfección con las GPU para la computación heterogénea.
Mediante NVLink Fusion, las fábricas de IA de alto rendimiento pueden escalar rápidamente, beneficiándose de todos los componentes de las soluciones que conforman la arquitectura a escala de rack de NVIDIA.
Beneficios
Beneficios de NVLink Fusion
Desempeño Escalable de Clase Mundial
Liberar todo el potencial de las fábricas de IA requiere una comunicación rápida y perfecta entre todos los aceleradores. NVIDIA NVLink 6 puede conectar 72 XPU todos-a-todos a 3.6 TB/s por XPU, con futuras configuraciones de hoja de ruta que incluyen tamaños de dominio de hasta 1,152, para aumentar el desempeño de la IA y el rendimiento de la inversión.
Cadena de Suministro y Ecosistema de Tecnología Comprobada por la Producción
El ecosistema integral de tecnología NVLink Fusion, que incluye socios de diseño de XPU, socios de CPU y proveedores de IP, ayuda a los hiperescaladores y a los nativos de IA a optimizar diseños de XPU y agilizar el desarrollo. El ecosistema MGX proporciona una arquitectura integral a escala de bastidor y conecta los hiperescaladores de los adoptantes a la misma cadena de suministro comprobada que NVIDIA usa para sus propios sistemas basados en MGX, lo que elimina la complejidad de los nuevos diseños de bastidores y la administración de proveedores, y acelera el tiempo de lanzamiento al mercado.
Reaprovisionamiento Flexible y Mitigación de Riesgos de Implementación
Un beneficio clave de la adopción de la arquitectura de bastidor MGX es que los sistemas basados en XPU y GPU (como Vera Rubin NVL72) se pueden diseñar fácilmente en el mismo data center, compartiendo los mismos bastidores y huella de bastidor, redes, refrigeración, suministro de energía y sistemas de administración. Este enfoque unificado permite a los usuarios de NVLink Fusion desacoplar el diseño y el desarrollo de data centers de la preparación y el suministro de silicio, y les permite reaprovisionar fácilmente la capacidad de data centers con una combinación diferente de sistemas basados en XPU o GPU a medida que evolucionan las necesidades.
Arquitectura Unificada para la Infraestructura de IA Heterogénea
Los usuarios de NVLink Fusion pueden implementar diferentes tipos de XPU (o XPU y GPU) en el mismo data center para la computación heterogénea para la inferencia desagregada y otras cargas de trabajo asimétricas.
El resultado es una sola fábrica de IA semipersonalizada que ninguna empresa podría desarrollar por sí sola.
Plataforma
Tecnología NVIDIA NVLink Fusion
NVLink de NVIDIA
NVIDIA NVLink 6 y el chip de switch NVLink permiten 260 TB/s de ancho de banda en un solo dominio NVLink de 72 aceleradores (NVL72) y ofrecen una eficiencia cuatro veces mayor en el ancho de banda con la compatibilidad con el Protocolo de agregación jerárquica escalable y reducción (SHARP)™ de NVIDIA.
NVIDIA NVLink-C2C
NVIDIA NVLink-C2C extiende la tecnología NVLink, líder en la industria, a una interconexión de chip a chip. Esto permite la creación de una nueva clase de productos integrados con los socios de NVIDIA, desarrollados a través de chiplets, lo que les permite a las GPU o CPU de NVIDIA tener una conexión coherente de alto ancho de banda con silicio personalizado.
Plataforma de Infraestructura de IA
NVIDIA proporciona una cartera modular de tecnología de fábricas de IA, incluidas las GPU NVIDIA, las CPU NVIDIA Vera, los switches de óptica coempaquetada (CPO), ConnectX® SuperNICs™, DPU BlueField® y software Mission Control™ para optimizar workflows de IA y administrar la infraestructura de IA.
Las soluciones completas también están disponibles para la integración de fábricas de IA semipersonalizadas, incluido el bastidor Vera Rubin NVL72, que se puede mezclar con sistemas basados en XPU para la inferencia desagregada, el bastidor de CPU Vera para admitir sistemas de IA agéntica y aprendizaje por refuerzo, el bastidor NVIDIA LPX para ayudar a la inferencia de alto contexto y baja latencia, el bastidor NVIDIA STX para almacenamiento nativo de IA y el bastidor NVIDIA SPX para redes escalables.
Adoptantes
Ecosistema NVLink Fusion
-
Socios de CPU
-
Socios de Custom Silicon
-
Socios de Tecnología
-
Socios de Interconexión Óptica
Optimización del Desempeño de Inferencia de IA con NVLink Fusion
Descubra cómo NVLink Fusion de NVIDIA aborda las crecientes demandas de modelos de IA complejos.
