Las arquitecturas de fábricas de IA específicas de generación y validadas del diseño de referencia de NVIDIA DSX cubren la computación, las redes, el almacenamiento, la infraestructura de instalaciones y el diseño de clústeres de hardware.
NVIDIA DSX™ unifica diseño, simulación, operaciones y tecnologías de ecosistemas para ayudar a desarrollar fábricas de IA optimizadas para el menor costo de tokens.
Descripción general
NVIDIA DSX define cómo se diseñan, desarrollan y optimizan las fábricas de IA en toda la pila completa: desde chips y sistemas hasta software de infraestructura, instalaciones y tecnologías de socios.
DSX combina bibliotecas de software abiertas, guías de workflows y diseños de referencia con las plataformas de computación de NVIDIA y la infraestructura de OEM diseñada conjuntamente para permitir un amplio ecosistema de soluciones de software y hardware.
Beneficios
Las fábricas de IA de NVIDIA DSX están diseñadas conjuntamente como productos unificados, optimizados para los tokens de menor costo por megavatio.
Tecnologías
NVIDIA DSX es una plataforma que abarca múltiples tecnologías con las que los socios pueden desarrollar y aprovechar, diseñada para maximizar los tokens de IA por vatio en toda la fábrica de IA.
Arquitecturas Validadas para Fábricas de IA, Del Chip a la Red
Simulación para Diseño y Operaciones de Fábricas de IA
Opere de manera eficiente fábricas de IA a Escala
Administración Dinámica de Energía para Maximizar los Tokens por Vatio
Orquestación de Energía con Respuesta a la Red para Fábricas de IA
Intercambio de Datos Seguro en Todas las Operaciones de TI, OT y Fábricas de IA
La Iniciativa de Validación de ISV de NVIDIA AI Cloud-Ready evalúa el software de infraestructura en todas las capas de redes, computación, orquestación y plataforma de IA para las implementaciones de socios de la nube de NVIDIA.
Recursos
Diseñe y optimice fábricas de IA con las arquitecturas de referencia de NVIDIA, herramientas de simulación y software de ecosistemas.
Descubra productos que han sido validados para cumplir con el requisito funcional de NVIDIA para aplicaciones de fábricas de IA.
NVIDIA DSX es la plataforma de IA a escala de fábrica de NVIDIA. Reúne diseño, simulación, operaciones y tecnologías de ecosistemas para ayudar a los socios a desarrollar fábricas de IA optimizadas para el menor costo de tokens. DSX abarca chips y sistemas, software de infraestructura, instalaciones y tecnologías de socios, lo que permite a las fábricas de IA producir más tokens por vatio.
Incluye las siguientes tecnologías: DSX Reference Design, DSX Sim, DSX MaxLPS, DSX Flex, DSX Exchange y DSX OS.
Una fábrica de IA está diseñada específicamente para cargas de trabajo de IA, con un énfasis en el desempeño de inferencia, la eficiencia energética y el menor costo de tokens. Las fábricas de IA NVIDIA DSX están diseñadas conjuntamente como sistemas unificados en chips, sistemas, redes, software de infraestructura, energía, refrigeración y operaciones, a diferencia de los data centers tradicionales que a menudo se ensamblan a partir de componentes en silo.
Los data centers tradicionales principalmente almacenan, procesan, recuperan y sirven información. Las fábricas de IA generan inteligencia, lo que convierte datos y energía en tokens, predicciones, simulaciones y resultados impulsados por IA.
NVIDIA Omniverse DSX Blueprint es un framework abierto e integral para diseñar y operar fábricas de IA a gran escala. Generalmente está disponible en build.nvidia.com y es completamente compatible con el diseño de referencia de NVIDIA Vera Rubin DSX AI Factory.
El blueprint permite a los desarrolladores construir gemelos digitales físicamente precisos de sus fábricas de IA, simular operaciones en tiempo real y optimizar el desempeño antes de que comience la construcción o la implementación. Incluye un gemelo digital completo de una fábrica de IA, recursos de NVIDIA SimReady, configuraciones de hardware, interfaz de usuario web preconstruida, scripts de muestra, guías de workflows y tecnologías centrales NVIDIA CUDA-X™ y Omniverse.
NVIDIA DSX sirve a un ecosistema amplio y multidisciplinario: NVIDIA Cloud Partners (NCP), nubes soberanas y proveedores de Land/Power/Shell (LPS); fabricantes de equipos de energía y refrigeración; proveedores de software independientes (ISV) para diseño, simulación y operaciones de instalaciones; Fabricantes de Equipos Originales (OEM) e integradores de sistemas; empresas de arquitectura, ingeniería y construcción; e ISV de infraestructura que proporcionan soluciones IaaS y PaaS.
DSX proporciona un estándar de diseño común para que todas las partes (desde los fabricantes de Unidades de Distribución de Refrigerante o CDU hasta los ISV) puedan contribuir a los desarrollos de fábricas de IA sin integraciones a medida.
NVIDIA DSX ayuda a reducir el costo de los tokens al permitir a las fábricas de IA producir más tokens con el mismo presupuesto de energía, infraestructura y operaciones. En lugar de tratar la computación, la refrigeración, la alimentación y las operaciones como sistemas separados, DSX los coordina como una fábrica de IA integrada.
DSX MaxLPS ayuda a recuperar la energía infrautilizada para que los clientes puedan aprovisionar hasta un 40 % más de GPU dentro del mismo presupuesto de megavatios. DSX OS mejora el tiempo de actividad a través de operaciones automatizadas a escala de flota. Los diseños de referencia de DSX aceleran la implementación, mientras que DSX Exchange y DSX Sim ayudan a unificar las señales de instalación, alimentación, refrigeración y computación para mejorar el rendimiento, la eficiencia y los tokens por vatio.
Comience con la documentación de NVIDIA DSX para explorar diseños de referencia, componentes de software y rutas de integración de socios para desarrollar fábricas de IA. Los documentos proporcionan una orientación técnica para diseñar, optimizar y operar una infraestructura alineada con DSX.