Plataforma NVIDIA DSX

NVIDIA DSX es la plataforma de IA a escala de fábrica de NVIDIA. Reúne tecnologías de diseño, simulación, operaciones y ecosistema para ayudar a los partners a crear fábricas de IA optimizadas para ofrecer el menor coste por token. DSX abarca chips y sistemas, software de infraestructura, instalaciones y tecnologías de partners, lo que permite a las fábricas de IA producir más tokens por vatio.

Incluye las siguientes tecnologías: DSX Reference Design, DSX Sim, DSX MaxLPS, DSX Flex, DSX Exchange y DSX OS.

Una fábrica de IA está diseñada específicamente para cargas de trabajo de IA, haciendo hincapié en el rendimiento de inferencia, la eficiencia energética y el menor coste por token. Las fábricas de IA de NVIDIA DSX están diseñadas conjuntamente como sistemas unificados en los ámbitos de chips, sistemas, redes, software de infraestructura, energía, refrigeración y operaciones, a diferencia de los centros de datos tradicionales, que a menudo se ensamblan a partir de componentes en silos.

Los centros de datos tradicionales almacenan, procesan, recuperan y proporcionan información. Las fábricas de IA generan inteligencia al convertir datos y energía en tokens, predicciones, simulaciones y resultados con tecnología de IA.

El blueprint de NVIDIA Omniverse DSX es un marco abierto e integral para diseñar y operar fábricas de IA a gran escala. Está disponible de forma general en build.nvidia.com y es totalmente compatible con el diseño de referencia de fábrica de IA NVIDIA Vera Rubin DSX.

El blueprint permite a los desarrolladores crear gemelos digitales físicamente precisos de sus fábricas de IA, simular operaciones en tiempo real y optimizar el rendimiento antes de comenzar la construcción o la implementación. Incluye un gemelo digital de fábrica de IA completo, activos de NVIDIA SimReady, configuraciones de hardware, interfaz de usuario web prediseñada, scripts de muestra, guías de flujos de trabajo y las tecnologías básicas de NVIDIA CUDA-X y Omniverse.

NVIDIA DSX atiende a un ecosistema amplio y multidisciplinar: partners de nube de NVIDIA (NCP), proveedores de nube soberana y de Land/Power/Shell (LPS), fabricantes de equipos de energía y refrigeración y proveedores de software independientes (ISV) para operaciones de diseño, simulación y de instalaciones Fabricantes de equipos originales (OEM) e integradores de sistemas; empresas de arquitectura, ingeniería y construcción; e ISV de infraestructura que proporcionan soluciones de IaaS y PaaS.

DSX proporciona un estándar de diseño común para que todas las partes, desde los fabricantes de unidades de distribución de refrigerante (CDU) hasta los ISV, puedan contribuir a la creación de fábricas de IA sin necesidad de integraciones a medida.

NVIDIA DSX ayuda a reducir el coste de los tokens al permitir a las fábricas de IA producir más tokens con el mismo presupuesto de energía, infraestructura y operaciones. En lugar de tratar la computación, la refrigeración, la energía y las operaciones como sistemas independientes, DSX los coordina como una fábrica de IA integrada.

DSX MaxLPS ayuda a recuperar la energía desperdiciada para que los clientes puedan aprovisionar hasta un 40 % más de GPU con el mismo presupuesto de megavatios. DSX OS mejora el tiempo de actividad a través de operaciones automatizadas a escala de flota. Los diseños de referencia de DSX aceleran la implementación, mientras que DSX Exchange y DSX Sim ayudan a unificar las señales de instalaciones, energía, refrigeración y computación para mejorar el rendimiento, la eficiencia y los tokens por vatio.

Empiece con la documentación de NVIDIA DSX para explorar diseños de referencia, componentes de software y rutas de integración de partners para crear fábricas de IA. La documentación proporciona orientación técnica para diseñar, optimizar y operar una infraestructura alineada con DSX.