Arquitecturas de Referencia
Desarrolle Fábricas de IA Empresarial que Escalan
Convierta su data center en una fábrica de IA de alto desempeño con las Arquitecturas de Referencia de NVIDIA.
Descripción General
Componentes Básicos para el Éxito de la IA
Las Arquitecturas de Referencia (RA) de NVIDIA permiten a las organizaciones diseñar, implementar y escalar fábricas de IA de alto desempeño mediante una infraestructura validada y repetible. Estos diseños combinan computación certificada, redes de alta velocidad este-oeste y norte-sur, herramientas de observabilidad y software de infraestructura para garantizar un desempeño escalable, desde clústeres de cuatro nodos hasta entornos a escala empresarial.
Arquitecturas de Referencia de NVIDIA
Su Guía para la Familia Completa
Ahora está disponible un conjunto integral de instrucciones para configurar los clústeres en el data center.
Casos de Uso
Diseñado para Todos los Casos de Uso
Acelere las cargas de trabajo de IA agéntica, IA física, computación de alto desempeño (HPC) y simulación de IA con las Arquitecturas de Referencia de NVIDIA y los NVIDIA-Certified Systems™ de socios globales. Las principales configuraciones de clústeres de infraestructura para implementar fábricas de IA empresarial se describen a continuación.
-
NVIDIA RTX PRO AI Factory
-
NVIDIA HGX AI Factory
-
NVIDIA NVL72 AI Factory
NVIDIA RTX PRO AI Factory
La configuración de NVIDIA RTX PRO™ AI Factory está diseñada para un amplio espectro de cargas de trabajo empresariales, como la IA generativa y agéntica, el análisis de datos, la computación visual y la simulación de ingeniería. Las implementaciones se optimizan en torno a puntos de diseño de 16 y 32 nodos, lo que proporciona un equilibrio ideal de desempeño, escalabilidad y eficiencia de implementación. Los servidores NVIDIA RTX PRO, diseñados para la aceleración universal de las cargas de trabajo en la IA, la simulación y la computación visual empresarial, están optimizados para entornos PCIe, lo que los hace ideales para centros de datos con restricciones de espacio, energía y refrigeración. Han sido diseñados específicamente para cargas de trabajo de IA modernas y ofrecen un desempeño eficiente para la IA de agentes y la inferencia de grandes modelos de lenguaje (LLM).
NVIDIA HGX AI Factory
La configuración de alto desempeño de NVIDIA HGX™ AI Factory está diseñada específicamente para el entrenamiento y la inferencia de IA de múltiples nodos a escala, lo que aprovecha los sistemas NVIDIA HGX. La arquitectura, disponible en puntos de diseño de 32, 64 y 128 nodos y compatible con las redes NVIDIA Spectrum-X™, cuenta con un diseño flexible y optimizado por carriles que permite una integración eficiente en diversos diseños de bastidor, a la vez que ofrece un desempeño de alto rendimiento y baja latencia. Proporciona un desempeño innovador para los usuarios avanzados de IA que ejecutan las cargas de trabajo más exigentes, permite el entrenamiento y el ajuste fino de modelos a gran escala y acelera drásticamente la inferencia. Con precisión de última generación e interconexiones ultrarrápidas, la solución logra un rendimiento de tokens hasta 15 veces mayor.
NVIDIA NVL72 AI Factory
La configuración de NVIDIA NVL72 IA Factory está diseñada para entrenar e implementar modelos de billones de parámetros, lo que ofrece potencia de computación a exaescala dentro de un solo bastidor. Con un diseño para rendimiento de modelos masivo, la inferencia de múltiples usuarios y la inferencia en tiempo real a escala, permite la próxima generación de innovación impulsada por IA. Los puntos de diseño de implementación se centran en configuraciones de cuatro y ocho bastidores. La arquitectura, que se basa en una red flexible y optimizada por carriles, se adapta a diversos diseños de bastidores y sistemas, a la vez que ofrece un desempeño de alto ancho de banda y baja latencia. La plataforma ofrece un rendimiento de fábricas de IA excepcional con una eficiencia energética líder en la industria y funciona con NVIDIA NVLink™, núcleos Tensor FP4 e innovaciones de refrigeración avanzadas.
Beneficios
El Valor Estratégico de las Arquitecturas de Referencia de NVIDIA
Obtenga una infraestructura de IA escalable y de alto rendimiento con configuraciones comprobadas y listas para socios.
Desempeño Máximo para Cargas de Trabajo de IA
Cumpla con las demandas intensivas de inferencia de IA, ajuste fino y entrenamiento con arquitecturas que garantizan la completa utilización de GPU y la consistencia del desempeño en los clústeres de múltiples nodos.
Escalabilidad Flexible, Operaciones Simplificadas
Expanda fácilmente su infraestructura y garantice una implementación escalable y optimizada para hasta 128 nodos. Desarrolle la base para soluciones de pila completa con el diseño validado NVIDIA Enterprise AI Factory, que aprovecha nuestro ecosistema de software.
Reduzca la Complejidad y el TCO
Simplifique los procesos de implementación y el diseño eficiente, reduzca la complejidad y el costo total de propiedad (TCO), a la vez que reduce el tiempo de generación de valor.
Capacidad de soporte
Siga patrones de diseño específicos y estandarizados para lograr un funcionamiento consistente de una instalación a otra, reduzca la necesidad de asistencia frecuente y permita tiempos de resolución más rápidos.
Socios
Asociados para el Aumentar el Rendimiento
Estamos orgullosos de colaborar con socios líderes a medida que llevan soluciones de fábricas de IA empresariales al mercado. Los diseños respaldados de estos socios han sido aprobados por nuestra Junta de Revisión de Diseño, que ofrece una orientación que gana nuestro respaldo en una o más de las siguientes categorías: infraestructura, Spectrum-X y arquitectura lógica de redes.
Arquitectura de Referencia Palantir Sovereign AI OS con NVIDIA
La Arquitectura de Referencia de Palantir Sovereign AI OS se basa en las RA de NVIDIA, probadas y calificadas para ejecutar la suite de software completa de Palantir en la infraestructura de IA de NVIDIA con nuestros socios de sistemas globales. Esta arquitectura de IA soberana es crítica para clientes con flujos de trabajo sensibles a la latencia, requisitos de soberanía de datos y alta distribución geográfica. La arquitectura proporciona a las empresas un control total sobre sus datos, modelos de IA y aplicaciones.
Recursos
Más Información Sobre las RA de NVIDIA
La fábrica de IA de Tecnologías de la Información (TI) de NVIDIA impulsa la innovación empresarial a escala
Al aprovechar las Arquitecturas de Referencia de NVIDIA, NVIDIA desarrolló una fábrica de IA unificada para escalar los workflows de IA generativa y de agentes en toda la empresa, lo que garantiza seguridad, desempeño y consistencia. La plataforma admite cientos de agentes de IA que aceleran la innovación, agilizan la ingeniería de software y hardware y optimizan las operaciones de la cadena de suministro, lo que reduce los tiempos de planificación en más de un 95 % y logra décadas de trabajo de ingeniería en solo un año.
Próximos Pasos
Preguntas Frecuentes sobre la Arquitectura de Referencia de NVIDIA
Las Arquitecturas de Referencia de NVIDIA proporcionan una orientación de diseño de clústeres clara y consolidada para los socios de sistemas globales de NVIDIA y los clientes empresariales que desarrollan fábricas de IA empresarial. Abarcan la computación, las redes, el almacenamiento y el software de infraestructura, incorporando sistemas certificados por NVIDIA, almacenamiento certificado por NVIDIA, redes de NVIDIA y el software NVIDIA AI Enterprise en diseños integrados para la infraestructura de IA de producción.
Elija RTX PRO AI Factory para IA empresarial amplia, incluida la IA agéntica y física, la computación visual, el análisis, la simulación y la inferencia de modelos grandes a medianos.
Elija HGX AI Factory para el entrenamiento de múltiples nodos de alto desempeño, ajuste fino e inferencia a gran escala.
Elija NVL72 AI Factory para las cargas de trabajo más intensivas, incluido el entrenamiento de modelos de billones de parámetros, el razonamiento en tiempo real y la inferencia a escala masiva de alto rendimiento.
Comience con el tipo de carga de trabajo, la cantidad de usuarios, el tamaño del modelo, el objetivo de desempeño, el volumen de datos y el plan de crecimiento. NVIDIA publica puntos de diseño para cada arquitectura, incluidos los sistemas RTX PRO de 16 y 32 nodos, los sistemas HGX de 32, 64 y 128 nodos y los sistemas NVL72 de 2, 4 y 8 bastidores. Trabaje con un sistema de socios de NVIDIA para confirmar el diseño y la lista de materiales para su implementación.
El código sigue un formato de CPU-GPU-adaptador de red-ancho de banda. En 2-8-5-200, el sistema tiene 2 zócalos de CPU, 8 GPU, 5 adaptadores de red con 1 para tráfico norte-sur y 4 para tráfico este-oeste, y un ancho de banda este-oeste promedio de 200 GbE por GPU.
La Arquitectura de Referencia de NVIDIA proporciona orientación para la computación, las redes, el almacenamiento, el software de infraestructura y la implementación. NVIDIA Enterprise AI Factory Validated Design agrega una pila completa seleccionada y versionada de software de NVIDIA y socios que admite cargas de trabajo de IA. Los equipos pueden usar la RA para planificar la infraestructura de IA a través de la capa de Kubernetes y el diseño validado para implementar y operar la pila de software en esa infraestructura.
Cisco, Dell Technologies, HPE, Lenovo y Supermicro ofrecen diseños basados en las RA de NVIDIA y respaldados por la Junta de Revisión de Diseño de NVIDIA. Consulte la documentación de RA de NVIDIA para obtener los modelos de servidor actuales, las configuraciones de GPU, los puntos de escala, y el estado de respaldo antes de seleccionar un sistema.
Los Sistemas Certificados por NVIDIA validan el nodo: los servidores probados en cuanto al cumplimiento de los requisitos de NVIDIA para el desempeño de IA empresarial, capacidad de administración, seguridad y escalabilidad.
Las Arquitecturas de Referencia de NVIDIA definen el clúster: cómo los sistemas certificados por NVIDIA, las redes de NVIDIA, el almacenamiento y el software NVIDIA AI Enterprise se unen en configuraciones reiterables para Fábricas de IA Empresarial.
En breve: la certificación de NVIDIA les dice a los clientes que un sistema está listo para la IA; las RA de NVIDIA muestran a los socios y clientes cómo ensamblar esos sistemas en implementaciones de fábricas de IA escalables.
Cisco es el líder mundial en tecnología que está revolucionando la forma en que las organizaciones se conectan y protegen en la era de la IA. Desde hace más de 40 años, Cisco conecta al mundo de forma segura. Con sus soluciones y servicios impulsados por IA líderes en la industria, Cisco permite a sus clientes, socios y comunidades habilitar la innovación, mejorar la productividad y fortalecer la resiliencia digital. Con un propósito en el centro de su visión, Cisco mantiene su compromiso de crear un futuro más conectado e inclusivo para todos.
Soluciones respaldadas por la Junta de Revisión de Diseño de NVIDIA:
- Arquitectura de Referencia de Cisco Enterprise para NVIDIA HGX B300: Cisco N9000 | Cisco Nexus Hyperfabric
- Arquitectura de Referencia de Cisco Enterprise para NVIDIA HGX H200: Cisco N9000 | Cisco Nexus Hyperfabric
- Infraestructura de Cisco IA POD para la Arquitectura de Referencia Empresarial de NVIDIA 2-8-9-400
- Infraestructura de Cisco IA POD para la Arquitectura de Referencia Empresarial de NVIDIA 2-8-5-200
Dell Technologies ayuda a las organizaciones y a las personas a desarrollar su futuro digital y transformar la forma en que trabajan, viven y juegan. La compañía proporciona a los clientes la cartera de tecnología y servicios más amplia e innovadora de la industria para la era de la IA.
Soluciones respaldadas por la Junta de Revisión de Diseño de NVIDIA:
- Dell IA Factory con NVIDIA: Servidores NVIDIA RTX PRO y H200 NVL
- Dell IA Factory con NVIDIA para el Gobierno: Servidores NVIDIA RTX PRO
- Dell IA Factory con NVIDIA: HGX H200
HPE es un líder en tecnología empresarial esencial que reúne el poder de la IA, la nube y las redes para ayudar a las organizaciones a lograr más objetivos. Como pioneros de lo posible, nuestra innovación y experiencia impulsan la forma en que las personas viven y trabajan. Empoderamos a nuestros clientes de todas las industrias para optimizar el desempeño operativo, transformar los datos en capacidad de anticipación y maximizar su impacto. Libere sus ambiciones más audaces con HPE.
Soluciones respaldadas por la Junta de Revisión de Diseño de NVIDIA:
- HPE IA Factory con NVIDIA: Servidores NVIDIA RTX PRO
- HPE IA Factory con NVIDIA: NVIDIA HGX B300
Lenovo es una potencia tecnológica global con ingresos de 69 mil millones de dólares, ocupa el puesto n.º 196 en la lista Fortune Global 500 y opera en 180 mercados, llegando a millones de clientes todos los días. Con un enfoque en una visión audaz para ofrecer una tecnología más inteligente para todos, nuestra asociación actual con NVIDIA combina servidores Lenovo con GPU aceleradas. Lenovo Hybrid AI Advantage™ con NVIDIA impulsa la productividad y la innovación con una implementación de IA más rápida, impulsada por la Lenovo AI Library y una cartera completa de infraestructura, dispositivos, soluciones y servicios de IA de pila completa.
Soluciones respaldadas por la Junta de Revisión de Diseño de NVIDIA:
Supermicro es un líder global en soluciones integrales de TI optimizadas para aplicaciones. Fundada y operativa en San Jose, California, Supermicro está comprometida con ofrecer innovación de primer nivel para infraestructuras de TI empresariales, de nube, de IA y de telecomunicaciones 5G/edge. Somos un proveedor de soluciones totales de TI con servidor, IA, almacenamiento, IoT, sistemas de conmutadores, software y servicios de asistencia. La experiencia de Supermicro en el diseño de placas base, sistemas de alimentación y chasis potencia aún más nuestro desarrollo y producción, y permite impulsar la innovación de próxima generación desde la nube hasta el edge para nuestros clientes globales.
Soluciones respaldadas por la Junta de Revisión de Diseño de NVIDIA:
- Soluciones para Fábricas de IA con Servidores NVIDIA RTX PRO: Hoja de Datos | Arquitectura de Referencia
- Soluciones para Fábricas de IA con NVIDIA HGX B300: Plano Único y Dual: Hoja de Datos | Arquitectura de Referencia
- Soluciones para Fábricas de IA con NVIDIA HGX B200: Hoja de Datos | Arquitectura de Referencia