La Red Define el Data Center de IA

Las redes de NVIDIA son una estructura de pila completa optimizada para aceleradores, diseñada específicamente para fábricas de IA, que combina escalado vertical de NVLink, el escalado horizontal de Spectrum-X Ethernet y Quantum InfiniBand, el escalado transversal de Spectrum-XGS, las DPU BlueField para servicios de infraestructura (incluido el acceso seguro scale-in y la escala de contexto para la caché de KV) y plataformas de fotónica de silicio. Juntas, estas tecnologías ofrecen las funciones innovadoras y las características de desempeño que las cargas de trabajo de IA requieren en implementaciones que abarcan desde decenas de miles hasta millones de GPU.

Las fábricas de IA ahora abarcan decenas de miles de GPU que operan como un solo motor de computación distribuida, lo que convierte a la red en la ruta crítica de cada carga de trabajo de IA. Las redes de NVIDIA ofrecen latencia determinista, rendimiento sin pérdidas y tiempos de iteración estables que mantienen las GPU completamente utilizadas en las cargas de trabajo de entrenamiento, inferencia y RAG a cualquier escala.

NVIDIA ofrece cuatro plataformas de redes principales para fábricas de IA: Spectrum-X Ethernet para redes en la nube de IA a hiperescala, que ofrecen un desempeño 1.6 veces mayor que Ethernet estándar; Quantum-X800 InfiniBand para el entrenamiento de IA de baja latencia y HPC con computación en la red; BlueField DPU para servicios de infraestructura, seguridad y descarga de almacenamiento; y óptica coempaquetada de fotónica de silicio para la conmutación con eficiencia energética a escala de millones de GPU. Spectrum-XGS Ethernet extiende todo esto por múltiples sitios en una superfábrica de IA unificada.

NVIDIA Spectrum-X Ethernet es una plataforma de redes diseñada específicamente para la IA, que ofrece un desempeño de red 1.6 veces mayor que el Ethernet estándar. Proporciona desempeño de RoCE acelerado, latencia determinista y aislamiento de desempeño para cargas de trabajo de IA de múltiples usuarios, y se extiende a múltiples data centers a través de la tecnología de escalabilidad Spectrum-XGS, lo que unifica las instalaciones distribuidas en una sola estructura de IA de alto desempeño.

NVIDIA Quantum InfiniBand es una plataforma de redes de alto desempeño que ofrece latencia ultrabaja, computación en la red y sistemas de óptica empaquetados en conjunto con fotónica de silicio de última generación para cargas de trabajo de IA y HPC. Con la computación SHARP en la red que acelera las operaciones colectivas y las estructuras con autorreparación que se recuperan de fallas en los enlaces 1,000 veces más rápido que las redes tradicionales, Quantum InfiniBand proporciona las redes más rápidas y escalables de la industria para clústeres de entrenamiento de IA y supercomputadoras científicas.

La plataforma NVIDIA BlueField permite un desempeño, una eficiencia y una innovación sin precedentes para impulsar las fábricas de IA, la nueva clase de data centers diseñados específicamente para la IA. Con su sólida potencia de computación y aceleradores de hardware integrados definidos por software para redes, almacenamiento y seguridad, BlueField crea una infraestructura segura y acelerada para cualquier carga de trabajo en cualquier entorno, lo que marca el comienzo de una nueva era de IA basada en agentes, en la que los agentes autónomos razonan, colaboran y actúan a escala.

NVIDIA Spectrum-XGS Ethernet es una tecnología de redes a escala general que conecta los data centers distribuidos en una sola superfábrica de IA unificada. Spectrum-XGS ofrece un desempeño de NCCL 1.9 veces mayor para implementaciones de IA en múltiples sitios en comparación con Ethernet entre sitios estándar, lo que permite a las fábricas de IA escalar más allá de los límites de energía y capacidad física de cualquier edificio, a la vez que mantienen las mismas características de la estructura de alto desempeño que las implementaciones de Spectrum-X dentro de las instalaciones.

Las redes de fotónica de silicio de NVIDIA integran los componentes ópticos directamente con el ASIC del switch, lo que elimina los transceptores enchufables para ofrecer una eficiencia energética y un tiempo de actividad 5 veces mejores en comparación con los diseños enchufables tradicionales. La fotónica de silicio coempaquetada es la tecnología de capa física que posibilita las redes a escala de millones de GPU y las fábricas de IA con múltiples sitios, lo que reduce las pérdidas por inserción para una integridad y una confiabilidad de las señales significativamente mejores.

NVIDIA DOCA es la plataforma de software unificada que libera todo el potencial de NVIDIA BlueField y NVIDIA ConnectX™ para la IA basada en agentes. Proporciona SDK, bibliotecas, microservicios listos para la empresa y frameworks de orquestación (que abarcan redes, almacenamiento nativo de IA, seguridad en tiempo de ejecución, telemetría y administración del ciclo de vida) para acelerar, proteger y escalar las cargas de trabajo de IA de producción. DOCA es la base de software para desarrollar y operar una infraestructura de fábricas de IA inteligente y de alto desempeño.