Arquitecturas de referencia empresarial
Construir fábricas de IA que se escalen
Convierta su centro de datos en una fábrica de IA de alto rendimiento con las arquitecturas de referencia empresariales de NVIDIA.
Descripción
Los elementos fundamentales para el éxito de la IA
Las arquitecturas de referencia empresariales (RA empresariales) de NVIDIA permiten a las organizaciones diseñar, implementar y escalar fábricas de IA de alto rendimiento con una infraestructura validada y repetible. Estos diseños combinan computación certificada, redes de alta velocidad este-oeste y norte-sur, herramientas de observabilidad y software para garantizar un rendimiento escalable, desde clústeres de cuatro nodos hasta entornos a escala empresarial.
Arquitecturas de referencia empresarial
Su guía para toda familia
Ya está disponible un conjunto completo de instrucciones para configurar clústeres en el centro de datos.
Casos de uso
Diseñado para cada caso de uso
Acelere las cargas de trabajo de IA de agentes, IA física, computación de alto rendimiento (HPC) y simulación de IA con las arquitecturas de referencia empresariales probadas de NVIDIA y los sistemas certificados por NVIDIA de partners globales. A continuación se describen las principales configuraciones de clústeres de infraestructura para implementar fábricas de IA empresariales.
-
NVIDIA RTX PRO AI Factory
-
NVIDIA HGX AI Factory
-
NVIDIA NVL72 AI Factory
NVIDIA RTX PRO AI Factory
La configuración de NVIDIA RTX PRO™ AI Factory está diseñada para un amplio espectro de cargas de trabajo empresariales, que incluyen IA generativa y de agentes, análisis de datos, computación visual y simulación de ingeniería. Las implementaciones se optimizan en torno a puntos de diseño de 16 y 32 nodos, lo que proporciona un equilibrio ideal de rendimiento, escalabilidad y eficiencia de implementación. Diseñados para la aceleración de cargas de trabajo universales en IA, simulación y computación visual empresarial, los servidores NVIDIA RTX PRO están optimizados para entornos PCIe, lo que los hace ideales para centros de datos con restricciones de espacio, energía y refrigeración. Diseñados específicamente para cargas de trabajo de IA modernas, ofrecen un rendimiento eficiente para la IA de agentes y la inferencia de modelos lingüísticos de gran tamaño (LLM).
NVIDIA HGX AI Factory
La configuración de alto rendimiento de NVIDIA HGX AI Factory está diseñada específicamente para el entrenamiento y la inferencia de IA de varios nodos a escala, aprovechando los sistemas NVIDIA HGX. Disponible en puntos de diseño de 32, 64 y 128 nodos y compatible con las redes NVIDIA Spectrum-X™, la arquitectura cuenta con un diseño flexible y optimizado para rieles que permite una integración eficiente en diversos diseños de bastidor, al tiempo que proporciona una alta capacidad de procesamiento y un rendimiento de baja latencia. Proporciona un rendimiento sin precedentes para usuarios avanzados de IA que ejecutan las cargas de trabajo más exigentes, permite el entrenamiento y el ajuste de modelos a gran escala, y acelera drásticamente la inferencia. Con la precisión de última generación y las interconexiones ultrarrápidas, la solución logra un rendimiento de tokens hasta 15 veces superior.
NVIDIA NVL72 AI Factory
La configuración de fábrica de IA de NVIDIA NVL72 está diseñada para entrenar e implementar modelos con billones de parámetros, lo que proporciona potencia de computación a exaescala dentro de un solo bastidor. Diseñado para un rendimiento de modelos masivo, la inferencia multiusuario y la inferencia en tiempo real a escala, permite la próxima generación de innovación impulsada por IA. Los puntos de diseño de implementación se centran en configuraciones de cuatro y ocho bastidores. La arquitectura, basada en una red flexible y optimizada para rieles, se adapta a diversos diseños de bastidores y sistemas, al tiempo que proporciona un rendimiento de gran ancho de banda y baja latencia. La plataforma proporciona un resultado de AI factory excepcional con eficiencia energética líder en el sector y está impulsada por NVIDIA NVLink™ de quinta generación, núcleos Tensor FP4 e innovaciones térmicas avanzadas.
Ventajas
El valor estratégico de las RA empresariales
Desbloquee una infraestructura de IA escalable y de alto rendimiento con configuraciones probadas y listas para partners.
Máximo rendimiento para cargas de trabajo de IA
Satisfaga las exigencias intensivas de la inferencia, el ajuste preciso y el entrenamiento de IA con arquitecturas que garantizan la utilización y la consistencia del rendimiento totales de la GPU en clústeres de varios nodos.
Escalado flexible, operaciones simplificadas
Amplíe fácilmente su infraestructura y garantice una implementación escalable y optimizada para hasta 128 nodos. Cree la base para soluciones de pila completa con el diseño validado NVIDIA Enterprise AI Factory, que aprovecha nuestro ecosistema de software.
Reduzca la complejidad y el TCO
Simplifique los procesos de implementación y los diseños eficientes, reduzca la complejidad y el costo total de propiedad (TCO), al tiempo que reduce el tiempo de generación de valor.
Sostenibilidad
Siga patrones de diseño específicos y estandarizados para lograr un funcionamiento uniforme de una instalación a otra, reducir la necesidad de soporte frecuente y permitir tiempos de resolución más rápidos.
Partners
Asociados para el rendimiento
Nos enorgullece colaborar con partners líderes a medida que llevan al mercado arquitecturas de referencia empresariales y soluciones de fábrica de IA. Los diseños aprobados de estos partners han pasado por nuestro Consejo de Revisión de Diseño y ofrecen una orientación que merece nuestra aprobación en una o más de las siguientes categorías: infraestructura, lógica de red y software.
Arquitectura de referencia de sistemas operativos de IA soberana de Palantir con NVIDIA
La arquitectura de referencia de sistemas operativos de IA soberana de Palantir se basa en los RA empresariales de NVIDIA, que han sido probados y calificados para ejecutar el conjunto de software completo de Palantir en la infraestructura de IA de NVIDIA con nuestros partners de sistemas globales. Esta arquitectura de IA soberana es crítica para clientes con flujos de trabajo sensibles a la latencia, requisitos de soberanía de datos y alta distribución geográfica. La arquitectura proporciona a las empresas un control total de sus datos, modelos de IA y aplicaciones.
Recursos
Más información sobre las RA empresariales
La fábrica de IA de NVIDIA promueve la innovación empresarial a escala
NVIDIA creó una fábrica de IA unificada para escalar los flujos de trabajo de IA generativa y de agentes en toda la empresa, lo que garantiza la seguridad, el rendimiento y la coherencia. La plataforma admite cientos de agentes de IA que aceleran la innovación, agilizan la ingeniería de software y hardware, y optimizan las operaciones de la cadena de suministro, lo que reduce los tiempos de planificación en más de un 95 % y logra en un solo un año el trabajo de ingeniería equivalente a décadas.
Próximos pasos
Cisco es el líder tecnológico mundial que está revolucionando la forma en que las organizaciones se conectan y protegen en la era de la IA. Durante más de 40 años, Cisco ha conectado el mundo de forma segura. Con sus soluciones y servicios líderes en el sector impulsados por IA, Cisco permite a sus clientes, partners y comunidades desbloquear la innovación, mejorar la productividad y fortalecer la resiliencia digital. Con un propósito como eje central, Cisco sigue comprometido con la creación de un futuro más conectado e inclusivo para todos.
Soluciones aprobadas por el NVIDIA Design Review Board:
Dell Technologies ayuda a las organizaciones y personas a crear su futuro digital y transformar su forma de trabajar, vivir y jugar. La empresa proporciona a los clientes la cartera de tecnología y servicios más amplia e innovadora del sector para la era de la IA.
Soluciones aprobadas por el NVIDIA Design Review Board:
HPE es líder en tecnología empresarial esencial, que reúne la potencia de la IA, la nube y las redes para ayudar a las organizaciones a alcanzar mejores resultados. Como pioneros que abren nuevas posibilidades, nuestra innovación y experiencia avanzan la forma en que las personas viven y trabajan. Permitimos a nuestros clientes de todos los sectores optimizar el rendimiento operativo, transformar los datos en previsión y maximizar su impacto. Atrévase a alcanzar sus metas más ambiciosas con HPE
Soluciones aprobadas por el NVIDIA Design Review Board:
Lenovo es una potencia tecnológica global con ingresos de 69 000 millones de dólares, ocupa el puesto 196 en la Fortune Global 500 y presta servicios a millones de clientes en 180 mercados cada día. Nuestra asociación continua con NVIDIA, centrada en una visión audaz para ofrecer una tecnología más inteligente para todos, combina servidores Lenovo con GPU aceleradas. Lenovo Hybrid AI Advantage™ con NVIDIA aumenta la productividad y la innovación con una implementación de IA más rápida, impulsada por la biblioteca de IA de Lenovo y una cartera de pila completa de infraestructura de IA, dispositivos, soluciones y servicios.
Soluciones aprobadas por el NVIDIA Design Review Board:
Supermicro es un líder mundial en soluciones de TI totales optimizadas para aplicaciones. Fundada y operativa en San José, California, Supermicro se ha comprometido a ofrecer innovación pionera en el mercado para empresas, nube, inteligencia artificial e infraestructura de TI para telecomunicaciones y borde 5G. Somos un proveedor de soluciones de TI totales con servidores, IA, almacenamiento, IoT, sistemas de conmutación, software y servicios de soporte. La experiencia de Supermicro en el diseño de placas base, fuentes de alimentación y chasis facilita aún más nuestro desarrollo y producción, permitiendo la innovación de próxima generación desde la nube hasta el borde para nuestros clientes de todo el mundo.
Soluciones aprobadas por el NVIDIA Design Review Board: