NVIDIA DGX B200
La base para su fábrica de IA.
Desempeño Revolucionario Respaldado por Innovación Evolutiva
NVIDIA DGX™ B200 es una plataforma de IA unificada para desarrollar e implementar pipelines para empresas de cualquier tamaño y en cualquier etapa de su proceso de IA. NVIDIA DGX B200, que cuenta con ocho GPU NVIDIA Blackwell GPU interconectadas con NVIDIA® NVLink™de quinta generación, ofrece el triple de desempeño de entrenamiento y 15 veces el desempeño de inferencia en comparación con los sistemas de la generación anterior. Al aprovechar la arquitectura NVIDIA Blackwell, DGX B200 puede manejar diversas cargas de trabajo, incluidos grandes modelos de lenguaje, sistemas de recomendación y chatbots, lo que la vuelve ideal para empresas que buscan acelerar su transformación de la IA.
Beneficios
Una Fábrica de IA Unificada
Desempeño
Desempeño de Última Generación Impulsado por NVIDIA DGX B200
Inferencia de Grandes Modelos de Lenguaje en Tiempo Real
El desempeño proyectado puede cambiar. Latencia de token a token (TTL) = 50 ms en tiempo real, primera latencia del token (FTL) = 5 s, longitud de secuencia de entrada = 32,768, longitud de secuencia de salida = 1,028, 8 GPU NVIDIA DGX H100 de ocho vías refrigeradas por aire en comparación con 1 GPU NVIDIA DGX B200 de ocho vías refrigeradas por aire, según la comparación de desempeño de GPU.
Desempeño de Entrenamiento de IA Superpotenciado
El desempeño proyectado puede cambiar. Escala de 32.768 GPU, 4.096 clúster refrigerado por aire NVIDIA DGX H100 de ocho vías: red de 400G IB, clúster refrigerado por aire NVIDIA DGX B200 de 8 vías, 4.096 clúster refrigerado por aire: red de 400G IB.
Especificaciones
Especificaciones de NVIDIA DGX B200
| GPU | 8 GPU NVIDIA Blackwell |
| Memoria de GPU | Memoria de GPU total de 1.440GB |
| Desempeño | Entrenamiento de 72 petaFLOPS e inferencia de 144 petaFLOPS |
| Consumo de Energía | ~14,3 kW máx. |
| CPU | 2 Procesadores Intel® Xeon® Platinum 8570 112 Núcleos en total, 2,1 GHz (Base), 4 GHz (Potencia Máxima) |
| Memoria del Sistema | Hasta 4TB |
| Redes | 4 puertos OSFP que ofrecen 8 puertos únicos NVIDIA ConnectX-7 VPI
|
| Red de Administración | NIC integrada de 10Gb/s con RJ45 NIC Ethernet de doble puerto de 100Gb/s Controlador de administración de placa base (BMC) de host con RJ45 |
| Almacenamiento | Sistema Operativo: 2 NVMe M.2 de 1,9TB Almacenamiento interno: 8 NVMe U.2 de 3,84TB |
| Software | NVIDIA AI Enterprise: Software de IA Optimizado NVIDIA Base Command™: Organización, Programación y Administración de Clústeres NVIDIA DGX OS / Ubuntu: Sistema Operativo |
| Unidades de Rack (RU) | 10 RU |
| Medidas del Sistema | Altura: 17,5 in (444 mm) Ancho: 19,0 in (482.2 mm) Longitud: 35,3 in (897,1 mm) |
| Temperatura de Funcionamiento | 5–30°C (41–86°F) |
| Asistencia para Empresas | Tres años de Soporte Empresarial Estándar para hardware y software Acceso al portal de Soporte Empresarial las 24 horas del día, los 7 días de la semana Soporte de agentes en vivo durante el horario comercial local |
Recursos
Ofrecemos Fábricas de IA a Cada Empresa
NVIDIA DGX SuperPOD
NVIDIA DGX SuperPOD™ es una solución de infraestructura lista para usar para data centers de IA que ofrece un desempeño sin concesiones a cada usuario y carga de trabajo. DGX SuperPOD, que se puede configurar con cualquier sistema NVIDIA DGX, proporciona una infraestructura acelerada de primera clase con desempeño escalable para las cargas de trabajo de entrenamiento e inferencia de IA más exigentes, con resultados comprobados en la industria, lo que permite a TI ofrecer un desempeño sin concesiones.
Presentamos NVIDIA Mission Control
NVIDIA Mission Control optimiza las operaciones de la fábrica de IA, desde las cargas de trabajo hasta la infraestructura, con experiencia y conocimiento de nivel internacional que se suministran como software. Hace funcionar los data centers NVIDIA Blackwell, aporta una agilidad instantánea para la inferencia y el entrenamiento, a la vez que proporciona inteligencia de pila completa para la resiliencia de la infraestructura. Todas las empresas pueden ejecutar la IA con eficiencia a hiperescala, lo que simplifica y acelera la experimentación con IA.
Maximice el Valor de la Plataforma NVIDIA DGX
Los Servicios Empresariales de NVIDIA proporcionan asistencia, educación y servicios profesionales para su infraestructura de NVIDIA DGX. Con expertos de NVIDIA disponibles en cada paso de su recorrido por la IA, los servicios empresariales pueden ayudarle a poner en marcha sus proyectos de forma rápida y exitosa
Reciba Una Oferta de Entrenamiento Exclusiva Como Cliente de NVIDIA DGX
Aprenda cómo lograr innovadores avances con la IA más rápido con este entrenamiento técnico especial que se ofrece exclusivamente a los clientes de NVIDIA DGX y que imparten los expertos en IA del Deep Learning Institute (DLI) de NVIDIA.
Empiece Ahora